În urmă cu aproape patru ani, chiar înainte ca OpenAI să lanseze ChatGPT, unii angajați și-au arătat îngrijorarea, pe căi interne, cu privire la practicile de securitate din cadrul companiei, după cum au declarat pentru Reuters cinci persoane familiarizate cu subiectul. După ce au vorbit cu conducerea, unii angajați au ajuns la concluzia că mai importantă decât securitatea este competiția cu Google și cu Anthropic, potrivit surselor agenției.
Acești angajați au susținut că măsurile de control erau atât de laxe, încât persoane din exterior, inclusiv agenți ai guvernelor străine, puteau obține informații sensibile fără prea mare greutate. Un exemplu dat de Reuters, pe baza afirmațiilor de la surse, este că orice persoană care avea acces la codul sursă putea vedea detaliile tehnice care stau la baza altor proiecte ale OpenAI. Acest lucru era cauzat de faptul că cea mai mare parte a codului era pe un singur spațiu de stocare, cunoscut în limbajul de specialitate ca “monorepo”. Cu toate că acest monorepo era complicat, după cum au spus sursele, datele puteau fi interpretate cu ajutorul instrumentelor de inteligență artificială.
În trecut, compania și-a păstrat o mare parte din datele de cercetare pe GitHub și pe Slack, ceea ce a provocat noi îngrijorări. Totuși, a precizat că a restricționat accesul la documentația sensibilă și a subliniat și că o mare parte din activitatea sensibilă este păstrată în depozite de cod separate, cu controale stricte înainte de acces.
Agenția de presă amintește de cazul inginerului Abdulrahman Alfozan, cetățean saudit în vârstă de 35 de ani, care a fost arestat pe 13 octombrie pentru că a ascuns un dispozitiv de înregistrare audio într-o hârtie igienică, pe care a lăsat-o într-o sală de ședințe a conducerii OpenAI. De asemenea, potrivit informațiilor oficiale din dosar, el a folosit un instrument intern pentru a găsi documentele referitoare la vizitele directorilor executivi în Arabia Saudită și pentru a determina care dintre ei au cele mai mari șanse de a se vedea cu miniștri saudiți. Potrivit procurorilor, Alfozan era în contact cu un membru al familiei regale saudite care dorea să-l recruteze pentru un nou proiect ce urma să fie lansat în țară.
O altă problemă semnalată din interior este că conducerea nu a făcut verificări periodice la nivelul sandbox-urilor, folosite pentru supunerea noilor soft-uri la teste de stres, au afirmat trei dintre persoanele familiarizate cu practicile companiei. Angajații obișnuiau să modifice adesea instrumentele, însă modificările nu erau întotdeauna trecute prin evaluările de securitate. În reacția de acum, OpenAI spune că respectă evaluările periodice.
“Preocupările legate de securitate au reapărut în această vară, când agenții OpenAI aflați în fază de testare au spart sistemele companiei Hugging Face, un incident care a determinat o anchetă din partea autorităților de la nivel statal, local și federal, inclusiv din partea Casei Albe”, mai notează Reuters.
Mai departe, agenția de presă relatează că OpenAI a început să-și schimbe abordarea. Potrivit persoanelor familiarizate cu situația, Thibault Sottiaux, un director care supraveghează dezvoltarea produselor, coordonează acum și o inițiativă internă de securizare a sistemelor interne. Un prim pas concret este că în august, el a redirecționat un sfert dintre inginerii de producție către această inițiativă.
Aceste serii de avertismente interne scot la iveală vulnerabilitățile unei tehnologii care a ajuns un activ strategic al SUA. Într-o reacție oficială, purtătoarea de cuvânt a OpenAI a declarat că sunt investite resurse uriașe în programul de securitate, pentru a elimina riscurile din partea angajaților, hackerilor și actorilor statali.
În același timp, subliniază jurnaliștii, adăugarea unor noi niveluri de securitate poate întârzia dezvoltarea noilor sisteme și poate încurca planurile de listare la bursă ale OpenAI și ale Anthropic. Will DePue, un cercetător care a demisionat de la OpenAI în aprilie, a spus că liderii din domeniul AI preferă să nu sacrifice viteza de dezvoltare în favoarea securității.
Foto: Dimarik16/Dreamstime
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.