Potrivit unui raport de 61 de pagini publicat miercuri de Biroul pentru Responsabilitate Guvernamentală (GAO), cercetătorii au reușit să convingă chatboții de la ChatGPT, Claude, Gemini și Grok au reușit, în mai puțin de 12 ore, să genereze planuri pentru atacuri cu dispozitive explozive în orașe americane sau pentru atacuri asupra unor componente ale rețelei electrice, cu scopul de a provoca prejudicii economice.
GAO a desfășurat testele în perioada decembrie 2025 – octombrie 2026. Ca răspuns la solicitările făcute de investigatori, două dintre platformele au elaborat planuri pentru construirea și detonarea unui dispozitiv exploziv improvizat cu scopul de a provoca numeroase victime. Celelalte două platforme au elaborat planuri pentru utilizarea dronelor sau a armelor de foc în vederea atacării rețelei electrice, conform raportului.
“Fiecare dintre aceste platforme a furnizat informații detaliate care ar putea fi utilizate pentru a desfășura atacuri, precum ținte specifice, locații, momentul și metodele de atac. Fiecare platformă a avut nevoie de mai puțin de 12 ore pentru a genera planuri de atac”, a constatat GAO.
Într-unul dintre teste, una dintre platforme a sugerat închirierea unui vehicul și achiziționarea de resurse dintr-un magazin situat pe traseul către locația vizată. Acesta a recomandat o dată și o oră concrete pentru atac, deoarece erau programate evenimente publice la care era probabil să se adune mai mulți oameni, se arată în raport.
În cazul testelor privind atacurile asupra stațiilor electrice, una dintre platforme a sugerat utilizarea dronelor, iar alta a propus folosirea armelor de foc împotriva unor stații din apropierea unui aeroport american. Au fost puse la dispoziție inclusiv hărți și imagini.
O platformă a refuzat inițial să ofere informații detaliate despre construirea și detonarea unui dispozitiv exploziv. Totuși, investigatorii au reușit să ocolească mecanismele de protecție și să obțină informațiile solicitate. Celelalte teste au avut rezultate similare.
GAO s-a consultat cu mai mulți experți și a vizitat locațiile propuse de platformele AI pentru a verifica acuratețea planurilor furnizate. În urma verificărilor, au fost identificat și erori, inclusiv drumuri reprezentate incorect și ziduri înalte care ar fi îngreunat observarea unor ținte.
Senatoarea democrată Maggie Hassan, care va prelua conducerea Comisiei pentru Securitate Internă a Senatului în ianuarie, a cerut GAO să investigheze modul în care inteligența artificială disponibilă publicului larg poate fi utilizată în scopuri rău intenționate. Senatoarea a anunțat că una dintre primele audieri pe care le va organiza în noua legislatură, în ianuarie, va viza riscurile inteligenței artificiale și măsurile de îmbunătățire a siguranței.
Ca răspuns la concluziile raportului GAO, marile companii din domeniul tehnologic au spus, în mare parte, că produsele lor continuă să fie perfecționate. Anthropic a transmis, într-o scrisoare adresată GAO și inclusă în raport, că nu contestă posibilitatea ca un utilizator hotărât să obțină conținut periculos de la un sistem AI prin prezentarea în mod înșelător a scopului unei solicitări. Cu toate acestea, compania a precizat că nu este în măsură să verifice concluziile din raportul GAO.
Google a transmis că testele au fost realizate pe modele mai vechi și că “continuăm să le îmbunătățim”. De asemenea, OpenAI a transmis că salută oportunitatea de a răspunde constatărilor GAO, “precum și activitatea care mai rămâne de făcut”. La rândul său, SpaceXAI a afirmat că lucrează în continuare pentru îmbunătățirea siguranței la fiecare lansare a unui nou model.
Sursă alternativă: CBS News
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.