În timpul unui test de securitate cibernetică derulat în luna mai de firma independentă Irregular, Gemini a accesat internetul și a pătruns neautorizat în rețelele unor companii, al căror nume nu au fost făcute publice. Exercițiul era unul de tipul “capturează steagul”, iar modelul de inteligență artificială trebuia să recupereze informații din softul unei companii fictive din mediul de testare. Această din urmă entitate avea același nume cu una dintre companiile reale atacate.
Primul incident în care a fost implicat unul dintre modelele de AI ale Google a fost recunoscut abia după ce The Wall Street Journal a relatat despre caz. Heather Adkins, vicepreședinta companiei pentru inginerie de securitate, a declarat că Gemini “a găsit informații publice pe internet și a ghicit datele de autentificare. Ne-am asigurat că cele trei entități au fost informate și am colaborat cu partenerul nostru de instruire cu privire la modificările pe care le-a adus proceselor de testare. Aceste incidente subliniază importanța instruirii modelelor puternice de AI pentru a acționa în mod responsabil”, a mai spus ea.
Într-unul din cazuri, Gemini a încercat diverse parole până când a obținut accesul la sistemul protejat, iar în celelalte două a găsit date în două depozite publice, explică The Wall Street Journal. Conform lui Adkins, modelul AI și-a încetat intruziunea după ce a determinat că a accesat sistemele unor companii reale și, pentru că nu a fost creat niciun prejudiciu, Google a ales să nu dezvăluie situația. Compania nu a precizat ce versiune a Gemini a fost implicată.
Irregular a notificat Google despre incident la final de iulie, după cazul Hugging Face. Un purtător de cuvânt al Irregular a transmis că aceleași probleme au fost identificate și la OpenAI, Anthropic și Meta și că toate au fost notificate la finalul lui iulie.
Surse alternative: WSJ, Reuters
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.