Agentul AI a accesat în iunie, fără autorizație, portalul de statistici medicale al Medicare, sistemul public de asigurări de sănătate din Australia. Premierul Anthony Albanese a declarat că agentul a reușit să treacă de blocajele impuse de site, care îi transmiteau că anumite acțiuni nu sunt permise. Este vorba despre un agent intern folosit și antrenat de OpenAI, specializat în cercetare. Spre deosebire de un chatbot obișnuit, care răspunde la comenzile utilizatorului, un agent AI poate să își stabilească singur pașii necesari pentru a îndeplini o sarcină, luând decizii și folosind instrumente externe, precum un browser, fără intervenția utilizatorului la fiecare etapă.
Portalul accesat nu conținea dosare medicale individuale, istoricul pacienților, date bancare sau informații despre plățile și decontările acestora. Era vorba despre date agregate privind utilizarea serviciilor medicale. OpenAI a transmis, de asemenea, că analiza sa nu a identificat dovezi că ar fi fost accesate dosare ale pacienților.
Incidentul este însă considerat grav deoarece agentul AI nu s-a limitat la a furniza răspunsuri utilizatorului, ci a interacționat autonom cu sisteme informatice externe și a executat acțiuni pe care compania spune că modelele sale nu trebuiau să le efectueze. Autoritățile australiene verifică inclusiv alte trei site-uri guvernamentale din domeniul sănătății pentru a stabili dacă au fost afectate.
Guvernul australian a format o echipă specială care investighează incidentul și verifică dacă sistemele sale de securitate ar fi trebuit să detecteze mai devreme activitatea agentului. Albanese a criticat și faptul că autoritățile australiene au fost informate abia pe 10 septembrie, deși incidentul avusese loc în iunie.
Acest incident are loc într-un moment în care dezvoltarea agenților AI autonomi provoacă îngrijorări tot mai mari. Spre deosebire de un chatbot obișnuit, un agent AI specializat poate primi o sarcină și poate utiliza instrumente externe pentru a o îndeplini: poate căuta informații, accesa site-uri, utiliza aplicații sau executa anumite operațiuni. Tocmai această capacitate îi poate permite să ajungă în situații pe care dezvoltatorii nu le-au anticipat.
Cu o zi înainte de dezvăluirea incidentului din Australia, directorii unora dintre cele mai importante companii de AI au avertizat Consiliul de Securitate al ONU că dezvoltarea rapidă a tehnologiei poate reprezenta un risc pentru securitatea internațională și chiar pentru omenire dacă nu este gestionată corespunzător.
Mai exact, Dario Amodei, directorul Anthropic, a declarat că inteligența artificială ar putea deveni, dacă este gestionată prost, un risc pentru întreaga omenire. Yoshua Bengio, unul dintre cercetătorii considerați pionieri ai domeniului, a spus că pericolele sunt “reale și iminente”, susținând că niciun stat nu le poate gestiona singur.
Sam Altman, directorul OpenAI, a cerut cooperare internațională și a susținut că deciziile importante privind dezvoltarea AI nu ar trebui luate exclusiv de companiile din Silicon Valley, ci prin procese democratice și de către guverne responsabile în fața cetățenilor.
În același timp, Statele Unite au respins ideea unui sistem global de reglementare a inteligenței artificiale. Reprezentantul Administrației Trump la ONU, Michael Kratsios, a susținut că statele nu pot reglementa o tehnologie pe care nu o înțeleg suficient și a cerut mai degrabă schimb de bune practici și dezvoltarea capacității fiecărei țări de a gestiona tehnologia. China a pledat, la rândul său, pentru dezvoltarea unor reguli, mecanisme de intervenție în situații de urgență și cooperare între state.
Experții subliniază că incidentul din Australia oferă un exemplu concret al uneia dintre problemele discutate la ONU, și anume că nu mai este vorba doar despre ce poate genera un model AI, ci despre ce poate face atunci când primește acces la instrumente și sisteme informatice reale. În cazul din Australia, autoritățile încearcă acum să stabilească exact cât de departe a ajuns agentul și de ce mecanismele de securitate nu au oprit mai devreme activitatea sa.
Incidentul se adaugă altor cazuri recente în care agenți AI dezvoltați de OpenAI și de companii rivale au accesat sisteme informatice externe în mod neintenționat sau neautorizat. Companii precum Anthropic, Google și Meta au raportat, la rândul lor, incidente legate de agenții lor AI, ceea ce amplifică dezbaterea privind limitele de autonomie care ar trebui acordate acestor sisteme.
Surse: The Guardian, Reuters
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.