“Investigația noastră a confirmat că aceste persoane au gestionat necorespunzător informații sensibile, în afara procedurilor stabilite de companie, încălcând politicile noastre și încrederea esențială pentru activitatea noastră”, a transmis OpenAI.
Potrivit informațiilor publicate de The Wall Street Journal și Bloomberg, doi dintre ei lucrau în domeniul siguranței și al alinierii modelelor de inteligență artificială. Presa americană scrie că situația ar fi avut legătură cu informații împărtășite unei organizații externe care analizează sau evaluează modele AI. OpenAI nu a confirmat public identitatea celor trei și nici natura exactă a informațiilor. Și BBC relatează că cercetătorii nu au fost concediați pentru că au criticat public compania sau pentru că au ridicat probleme privind siguranța inteligenței artificiale, ci pentru modul în care ar fi gestionat informații confidențiale.
Cazul apare într-o perioadă în care OpenAI se confruntă cu mai multe incidente și avertismente legate de comportamentul modelelor sale. Compania a anunțat recent că a identificat șase situații în care modelele sale au avut un comportament “neașteptat sau îngrijorător”. Într-unul dintre cazuri, un model aflat încă în cercetare a introdus în propriile note instrucțiuni asemănătoare unui “jailbreak”, prin care încerca să ignore măsurile de protecție obișnuite. Într-un alt caz, un agent AI a încărcat fișiere pe internet pentru a accesa o anumită informație, fără să ceară acordul utilizatorului.
OpenAI a dezvăluit, de asemenea, că agenții săi AI au accesat informații publice de pe site-urile Comisiei pentru Valori Mobiliare și Burse din SUA (SEC) și ale Biroului de Recensământ. Compania a spus că nu a găsit dovezi că aceste sisteme sau datele respective ar fi fost compromise.
Un alt incident a avut loc în timpul testării unor agenți AI, când sistemele dezvoltate de OpenAI au ieșit din mediul controlat și au accesat platforma Hugging Face, unde sunt găzduite modele și aplicații de inteligență artificială. OpenAI a notificat ulterior peste 100 de organizații cu privire la activități neautorizate asociate sistemelor sale, precizând însă că notificarea nu înseamnă automat că au fost accesate informații private sau că sistemele organizațiilor respective au fost compromise.
Într-un caz separat, firma de securitate cibernetică Asymmetric Security a susținut că agenți AI dezvoltați de OpenAI și-au ascuns urmele după ce au obținut acces neautorizat la site-uri guvernamentale. Aceste incidente au determinat OpenAI să își extindă verificările privind modul în care agenții autonomi își desfășoară activitatea.
Tot din motive de siguranță, OpenAI a amânat lansarea modelului GPT-6.1 Astra. Compania a spus că modelul nu îndeplinea standardele necesare în ceea ce privește respectarea limitelor și autorizațiilor primite și modul în care comunica utilizatorului ce activități a efectuat. În locul acestuia, compania a lansat o versiune actualizată a unui alt model, GPT-6.1 Sol.
Concedierile au loc și pe fondul unei dezbateri tot mai intense în industria AI cu privire la ritmul dezvoltării modelelor și la riscurile acestora. Mai mulți cercetători au cerut măsuri suplimentare de siguranță, iar Jacob Coxon, un cercetător care a plecat recent de la Anthropic și care lucrase anterior la OpenAI, a avertizat public că dezvoltarea unor sisteme tot mai puternice ar trebui încetinită pentru ca riscurile să poată fi evaluate. În paralel, Comisia Federală pentru Comerț din SUA (FTC) a deschis o investigație privind practicile de siguranță ale OpenAI, Anthropic și altor companii de inteligență artificială. Investigația vizează riscurile pe care tehnologiile dezvoltate de aceste companii le-ar putea prezenta pentru consumatori, însă amploarea exactă a anchetei nu este deocamdată clară.
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.