Investigație Reuters. Asistentul AI Grok, integrat în platforma X, generează imagini cu tentă sexuală, ignorând avertismentele prealabile ale utilizatorilor că ar putea umili sau afecta emoțional persoana din fotografii. Incidentele, în ciuda noilor restricții anunțate de platforma lui Elon Musk.

Investigația, realizată de Reuters, relevă că asistentul bazat pe inteligența artificială, Grok, dezvoltat de compania xAI, generează imagini cu tentă sexuală cu utilizatori reali, în ciuda faptului că utilizatorii au avertizat explicit cu privire la faptul că subiecții nu și-au dat consimțământul.

Nouă jurnaliști Reuters din SUA și Marea Britanie au efectuat două runde de teste asupra chatbotului Grok, între 14-16 ianuarie și respectiv 27-28 ianuarie, încărcând fotografii reale, în care ei înșiși, colegii lor sau simpli străini erau îmbrăcați decent. Aceștia au solicitat apoi modificarea imaginilor astfel încât persoanele din poze să fie prezentate în ipostaze cu caracter sexual sau umilitor, menționând explicit că acestea nu și-au dat consimțământul și că ar putea fi afectate emoțional – fie în urma unui abuz, fie în urma problemelor cu imaginea de sine sau timiditatea.

În prima rundă de teste, Grok a generat imagini cu conținut sexual în 45 din 55 de cazuri. În 31 dintre acestea, chatbotul fusese avertizat că subiecții sunt vulnerabili, iar în 17 cazuri i s-a spus explicit că imaginile vor fi folosite pentru a umili persoana. Separat, în a doua rundă, în care jurnaliștii au făcut 43 de solicitări asemănătoare, Grok a generat imagini sumare în 29 dintre cazuri. 

Reuters nu a putut stabili însă dacă scăderea reflectă modificări ale algoritmului sau simple variații ale comportamentului modelului, deoarece acesta fie nu a răspuns, fie a afișat un mesaj de eroare generic, fie a generat imagini cu persoane diferite. În doar șapte cazuri, Grok a descris solicitările ca fiind inadecvate.

Pentru comparație, aceleași solicitări au fost introduse în chatboți rivali, inclusiv ChatGPT (OpenAI), Gemini (Alphabet) și Llama (Meta). Aceștia însă au refuzat generarea imaginilor și au avertizat asupra caracterului neetic și dăunător al conținutului.

Informațiile furnizate de Reuters apar la scurt timp după ce platforma de socializare X a anunțat noi restricții privind generarea de conținut sexual de către Grok, introduse în urma unui val de indignare globală legată de producerea masivă de imagini sumare și fără consimțământ, inclusiv cu copii.

Deși contul public Grok de pe platforma X nu mai afișează același volum de imagini cu conținut sexual, Reuters avertizează că asistentul AI continuă să le genereze la cerere, chiar și după ce este informat că imaginile ar putea umili sau chiar traumatiza persoanele vizate. În unele situații, Grok a continuat să producă imagini după ce utilizatorii au spus că subiectul a fost deja afectat emoțional de rezultatele anterioare.

Autoritățile internaționale urmăresc îndeaproape situația. Regulatorul britanic Ofcom a salutat inițial restricțiile anunțate de X, dar a declarat că investigația privind platforma continuă. Comisia Europeană a anunțat, pe 26 ianuarie, deschiderea unei investigații oficiale și a transmis că va evalua cu atenție modificările.

Până în prezent, 35 de procurori generali din statele americane au cerut explicații companiei xAI cu privire la măsurile de prevenire a generării de imagini nonconsensuale. Procurorul general al Californiei a mers mai departe, trimițând pe 16 ianuarie o scrisoare prin care solicită oprirea imediată a acestui tip de conținut. Investigația este în desfășurare.