Comisia Europeană a lansat oficial o investigație împotriva X/Twitter, deținută de Elon Musk, după ce asistentul AI Grok a generat imagini în ipostaze sexuale, inclusiv cu copii. Compania riscă amenzi de 6% din cifra anuală de afaceri.

Investigația a fost anunțată, luni, în baza reglementărilor privind serviciile digitale (DSA), și urmărește să stabilească dacă xAI a implementat suficiente măsuri pentru a reduce riscurile asociate integrării Grok pe platforma X și cele legate de răspândirea de conținut ce ține de abuz sexual asupra copiilor. Platforma lui Elon Musk se află sub presiunea autorităților de reglementare din mai multe țări, după ce utilizatori ai Grok au început să creeze deep fakes cu conținut sexual, care au fost distribuite atât pe rețeaua de socializare X, dar și pe aplicația Grok – ambele operate de xAI.

Grok a stârnit indignare internațională după ce a permis utilizatorilor să modifice poze cu femei și copii, care  să îi pună în ipostaze provocatoare. Grok AI a generat aproximativ 3 milioane de imagini cu conținut sexual în mai puțin de două săptămâni, inclusiv 23 de mii care păreau să înfățișeze copii, potrivit cercetătorilor de la Centrul pentru Combaterea Urii Digitale.

Dacă va fi găsită vinovată, xAI riscă amenzi de până la 6% din cifra de afaceri anuală globală, însă până atunci UE nu va lua măsuri suplimentare pe durata anchetei, a subliniat un oficial european. Comisarul european pentru tehnologie a precizat că deepfake-urile sexuale care vizează femei și copii “reprezintă o formă violentă și inacceptabilă de degradare”, iar prin această investigație UE va stabili, printre altele, dacă X “a tratat drepturile cetățenilor europeni ca daune colaterale ale serviciului”.

Ancheta UE vine după ce Ofcom, autoritatea de reglementare media din Marea Britanie, a deschis o investigație asupra Grok, iar Malaysia și Indonezia au interzis complet asistentul virtual.

Deși Elon Musk a transmis că utilizatorii care au folosit Grok pentru a crea conținut ilegal vor fi sancționați, la fel ca cei care încarcă direct astfel de materiale, iar xAI a restricționat accesul la Grok pentru abonații plătitori, un oficial al UE a subliniat că autoritățile europene “nu sunt convinse până acum” că măsurile adoptate sunt suficiente.

Reamintin, în decembrie, Comisia Europeană a amendat rețeaua de socializare X cu 120 de milioane de euro, după ce a stabilit că bifa albastră, atribuită în baza unui abonament, induce în eroare utilizatorii și că platforma a încălcat regulile de transparență în privința reclamelor și conținutului politic. Amenda a fost aspru criticată atât de Elon Musk, cât și de administrația SUA, care a acuzat UE că vizează în mod nedrept companiile americane și că încalcă principiile libertății de exprimare.

Sursă: Financial Times