Decizia a fost luată la câteva ore după ce OpenAI a dezvăluit că analizează mai multe incidente care au avut loc în această vară, în care agenți OpenAI care căutau informații pe site-urile guvernului federal american au acționat în moduri neașteptate, dincolo de ceea ce li se ceruse, în timp ce colectau și distribuiau informații. Cele mai recente incidente nu par să fi implicat divulgarea unor informații care nu erau publice, însă au fost suficient de îngrijorătoare pentru ca firma să avertizeze agențiile federale implicate.
Separat, compania de evaluare a sistemelor AI, Transluce, a declarat că agenți despre care se crede că proveneau de la OpenAI au încercat, fără succes, să pătrundă într-un site al Departamentului Educației din SUA, informație pe care OpenAI nu a confirmat-o. În incidentul care a vizat Departamentul Educației, agenții AI au găsit chei API de “dezvoltator” care permiteau accesul la date guvernamentale, însă în cele din urmă au colectat doar informații disponibile public. Departamentul Educației a declarat anterior că nu a găsit “nicio dovadă privind vreun impact asupra site-ului sau bazelor noastre de date”.
Într-un alt caz, care a implicat Comisia pentru Valori Mobiliare și Burse (SEC), agenții au găsit informații disponibile la liber, dar apoi le-au publicat în altă parte pe internet, acționând astfel dincolo de instrucțiunile primite.
OpenAI a transmis într-un comunicat că va relua antrenarea modelelor “doar atunci când vom fi convinși că avem măsuri de protecție suplimentare” implementate, adăugând că se așteaptă să fie nevoită să “ia din nou pauză” pe măsură ce inteligența artificială evoluează și apar alte probleme.
Laboratoarele de inteligență artificială se confruntă cu presiuni din partea parlamentarilor și a experților în tehnologie pentru a încetini ritmul dezvoltării, astfel încât să poată construi mecanisme de protecție care să împiedice agenții să acționeze pe cont propriu, să spargă site-uri și să divulge informații care nu sunt publice. Conducerile OpenAI și ale Anthropic au cerut, de asemenea, încetinirea ritmului de dezvoltare.
Este a doua oară în trei luni când OpenAI suspendă dezvoltarea modelelor sale. Prima suspendare a avut loc în iulie, după dezvăluirea unui atac cibernetic care a vizat startup-ul de inteligență artificială Hugging Face, un incident devenit între timp notoriu și care a amplificat temerile că industria își pierde controlul. În plus, mai multe alte companii de inteligență artificială au dezvăluit incidente în care modelele lor au acționat în mod neașteptat și chiar au încercat să spargă site-uri.
Sursă: The Guardian
Foto: Rokas Tenys/Dreamstime
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.