Incidentele, confirmate de OpenAI, au vizat Departamentul Comerțului și Comisia de Valori Imobiliare și Burse (SEC). Compania a declarat că continuă să investigheze situația împreună cu Departamentul Educației și că a notificat agențiile guvernamentale în ultimele săptămâni cu privire la faptul că agenții săi de inteligență artificială – care sunt roboți capabili să acționeze autonom – au interacționat cu site-urile acestora în “moduri neobișnuite”.
În cazul Departamentului Educației, agenții OpenAI a încercat să spargă site-ul web pentru a colecta date de la biroul pentru drepturi civile al departamentului, însă nu a reușit, au afirmat cercetătorii de la firma de cercetare în domeniul inteligenței artificiale Transluce. De asemenea, inteligența artificială a extras date de pe site-ul Biroului de Recensământ, care se află în cadrul Departamentului Comerțului, folosind datele de autentificare găsite online. În alt context, agenții OpenAI au distribuit date publice de pe site-ul SEC pe un forum online.
OpenAI a precizat că niciunul dintre aceste incidente nu a constituit o breșă de securitate, ci au fost “exemple ale comportamentului neașteptat și îngrijorător al tehnologiei sale”, arată The New York Times. Compania a descoperit recent incidentele în timp ce efectua o analiză a atacurilor cibernetice realizate de tehnologia sa, inclusiv un atac asupra unui site web al guvernului australian în luna iunie, anunțat la ONU de către prim-ministrul Australiei, și asupra start-up-ului de inteligență artificială Hugging Face în luna iulie.
În alte cazuri dezvăluite vineri de OpenAI, agenții săi de inteligență artificială au transferat date atunci când nu ar fi trebuit să o facă. Au avut loc cel puțin 53 de incidente în care un agent OpenAI a preluat o imagine din activitatea unui utilizator ChatGPT și a transferat-o în altă parte. Compania a declarat că, în fiecare caz în care o imagine a unui utilizator a fost utilizată și transferată de un agent de AI, utilizatorul își dăduse consimțământul pentru ca OpenAI să antreneze modele folosind datele sale, însă a recunoscut că “aceasta nu este o utilizare adecvată a cestor date”.
Numărul situațiilor în care agenții AI de la OpenAI, Anthropic, Meta și Google sunt implicați în astfel de incidente, în care s-au comportat necorespunzător și au piratat sau au încercat să pătrundă în rețelele unor companii, universități și organizații guvernamentale, devine din ce în ce mai mare. În unele cazuri, atacurile cu inteligența artificială au avut succes, însă în alte situații, tehnologia a eșuat. În toate cazurile, creatorii tehnologiei nu au aflat abia ulterior ce a făcut mai exact tehnologia lor.
Până în prezent, nicio companie din domeniul inteligenței artificiale nu a fost implicată în atât de multe dezvăluiri privind incidente cu agenți AI. O purtătoare de cuvânt a OpenAI a declarat că analiza efectuată de companie este “extensivă” și “în curs de desfășurare” și că va continua să informeze organizațiile afectate de modelele sale. “Cea mai mare parte a activităților pe care le-am analizat până acum a implicat sarcini de cercetare de rutină, cum ar fi accesarea conținutului public de pe internet pentru a răspunde la întrebări. Unele dintre acestea au implicat site-uri web guvernamentale, deoarece modelele noastre apelează adesea la acestea ca surse autorizate de informații publice”, a explicat ea.
Aceste episoade au alimentat o dezbatere aprinsă cu privire la siguranța AI. Sam Altman a declarat luna aceasta pe rețelele sociale că siguranța ar trebui să primeze în fața îmbunătățirii capacităților AI și că, fără măsuri de protecție, societatea ar putea “pierde controlul asupra viitorului în fața inteligenței artificiale”. Dario Amodei, directorul executiv al Anthropic, a susținut, de asemenea, încetinirea dezvoltării AI pentru a acorda prioritate siguranței.
Însă alți lideri din domeniul tehnologiei, precum Jensen Huang, directorul executiv al Nvidia, au afirmat că temerile legate de o inteligență artificială incontrolabilă sunt nerealiste. La rândul său, Donald Trump a declarat că nu consideră necesară o încetinire a ritmului de dezvoltare al industriei AI.
Surse: The New York Times, BBC
Foto: Rafael Henrique | Dreamstime.com
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.