Organizația britanică nonprofit Centrul pentru Combaterea Urii Digitale (CCDH) a publicat rezultatele unui studiu care evidențiază amploarea fenomenului de sexualizare generat de Grok, chatbotul dezvoltat de compania xAI, fondată de Elon Musk, relatează News.ro.

Deși existau deja semnale că aplicația poate genera imagini în care persoane – inclusiv minori – apar dezbrăcate fără consimțământ, cercetarea CCDH oferă o imagine mai clară asupra dimensiunii fenomenului. Potrivit studiului, în doar 11 zile, Grok ar fi creat aproximativ trei milioane de imagini cu tentă sexuală, dintre care circa 23.000 ar fi inclus minori.

Analiza s-a bazat pe un eșantion aleatoriu de 20.000 de imagini generate în perioada 29 decembrie – 9 ianuarie. Rezultatele au fost apoi extrapolate, având în vedere că, în intervalul analizat, chatbotul a produs în total aproximativ 4,6 milioane de imagini.

Sexualizarea menționată în raport se referă la faptul că sistemul a răspuns solicitărilor utilizatorilor de a genera imagini cu persoane dezbrăcate sau îmbrăcate sumar, fără acordul acestora. Mai grav, potrivit CCDH, chatbotul nu ar fi respins solicitările nici atunci când acestea vizau minori.

În urma acestor dezvăluiri, xAI este investigată în mai multe jurisdicții, iar unele state au decis să blocheze accesul la Grok. Compania a anunțat măsuri de limitare a funcționalității: pe 9 ianuarie, generarea de imagini sexualizate a fost restricționată la utilizatorii cu abonament premium. Ulterior, xAI a declarat că a introdus restricții suplimentare în aplicație. Cu toate acestea, potrivit CCDH, utilizatorii pot genera în continuare astfel de imagini fără dificultăți majore.