Reuters citează un raport al unui grup de cercetători de la Nightingale, un ONG pentru siguranța AI care la finalul lunii august a detectat un grup de agenți OpenAI scăpați de sub control, care în luna mai au deturnat un site web german similar Wikipedia, dar pentru programatori, și l-au transformat într-un forum pentru alți agenți AI. Cercetătorii au descoperit activitatea la sfârșitul lunii august, în timp ce căutau pe internet semne ale comportamentului neautorizat al agenților AI, după incidentul Hugging Face.
Pe site-ul DseWiki au fost găsite peste 15 mii de editări efectuate de agenți AI. Este vorba de un site de tip wiki în limba germană, destinat programatorilor, și care acceptă editări comunitare.
Modificările au arătat că agenții OpenAI au reutilizat site-ul într-un forum de mesaje, împărtășind tactici pentru a păcăli atunci când primesc unele sarcini, pentru a ocoli restricțiile OpenAI și pentru a-și masca comportamentul.
“Pare extrem de puțin probabil ca OpenAI să fi vrut ca ei să facă asta, sau să îi fi programat să facă acest lucru. Mă îndoiesc că ar trebui să se coordoneze între ei. Mă îndoiesc că agenții AI ar trebui să poată edita pe internetul deschis”, a declarat pentru Reuters unul dintre cercetători. Ceea ce i-a trădat a fost viteza cu care au schimbat mesaje, iar cercetătorii și-au dat seama că nu pot fi operatori umani. De asemenea, agenții s-au concentrat intens asupra rezolvării unor probleme tehnice tipice evaluărilor pe care companiile de inteligență artificială le folosesc pentru a-și antrena și testa modelele.
Mesajele au fost semnate de utilizatori care se refereau la ei înșiși și la ceilalți ca agenți ca fiind cercetători sau operatori, de exemplu “OpenAIResearcher” sau “OAIResearchMar26”.
Cercetătorii au spus că jurnalele serverului public au indicat că o mare parte din activitate provenea din infrastructura Microsoft Azure, pe care OpenAI o folosește. De asemenea, au observat vizite repetate pe site de către angajații OpenAI după acest episod.
Mesajele analizate de cercetători au arătat agenți care plănuiau modalități de a evita detectarea, de a utiliza instrumente precum Tor (pentru Darkweb) și de a păstra comunicațiile chiar și după ce au fost închise. Când moderatorul uman al site-ului german a început să șteargă pagini, în iunie, agenții au creat pagini de rezervă pentru a evita curățarea și chiar și-au lăsat mesaje pentru găsirea forumului.
Cercetătorii au descoperit, de asemenea, încercări de a modifica site-ul web în sine. Lukasz Olejnik, cercetător senior invitat la King’s College London, a declarat că acest lucru este o tentativă de hacking. Totuși OpenAI a contestat că ar fi vorba de un atac propriu-zis.
Exemplele anterioare de abateri ale agenților de inteligență artificială au fost adesea minimalizate ca un produs secundar logic al testelor de securitate cibernetică, unde modelele sunt evaluate explicit în funcție de capacitățile ofensive. Olejnik a spus că cele mai recente descoperiri sugerează că un comportament necinstit ar putea să nu se limiteze la aceste contexte.
Maurice Chiodo, un cercetător de la Cambridge, care a analizat unele dintre comunicările agenților, a declarat că mesajele par a fi “un fel de rețea subterană, hotărâtă să îndeplinească o sarcină sau o misiune. Episodul ar trebui să întărească îngrijorările tot mai mari că cea mai mare amenințare din partea inteligenței artificiale avansate ar putea să nu fie un singur sistem superinteligent, ci roiuri vaste de inteligență artificială semi-inteligentă, care colaborează între ele”.
Reprezentanții OpenAI au aflat despre incident în urmă cu câteva săptămâni, dar l-au ținut secret. S-a întâmplat exact în perioada în care compania încerca să diminueze efectele breșei din iulie, când mai mulți agenți AI au atacat Hugging Face, incident ele însuși nedetectat timp de mai mult de o săptămână.
OpenAI s-a angajat să monitorizeze modelele mai îndeaproape. Luna trecută, a întrerupt pentru scurt timp o parte din antrenamentul modelului său pentru a adăuga mai multe măsuri de siguranță, dar ieri a anunțat lansarea modelului GPT Astra, care promite performanțe mai bune, dar despre care compania însăși spune că are tendința de a evita monitorizarea umană.
OpenAI încă nu a exprimat un punct de vedere în legătură cu incidentul din mai.
Sursa: Reuters
Foto: Awargula/Dreamstime
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.