Activitatea malițioasă, descoperită de cercetătorul independent Joans Wiedermann-Moeller săptămâna trecută, arată că eforturile agenților scăpați de sub control de a găsi o cale de acces în Hugging Face au început mai devreme decât se știa public până acum, potrivit Reuters. Cercetătorul a spus că a găsit dovezi potrivit cărora agenții OpenAI au compromis două conturi de utilizatori Hugging Face și le-au folosit pentru a trimite către serverele companiei fișiere cu o formatare neobișnuită, începând cu 13 mai.
El și alți cercetători care au analizat dovezile au spus că acest comportament semăna cu o încercare de a cartografia sau testa anumite componente ale rețelei Hugging Face pentru a găsi modalități de infiltrare, deși au subliniat că nu există dovezi că această activitate de testare a dus la o breșă propriu-zisă. Atât cercetătorii, cât și OpenAI au spus că nu au găsit dovezi că activitatea anterioară ar fi făcut parte din incidentul din iulie, când un agent autonom, alimentat de două dintre cele mai avansate modele ale sale, a reușit să iasă din mediul izolat în care era testat, să obțină acces la internet și să atace cibernetic una dintre cele mai importante platforme din lume ce găzduiește seturi de date AI.
OpenAI dezvăluise anterior un aspect al activității malițioase – furtul unei credențiale digitale aparținând unui utilizator Hugging Face, folosită pentru a accesa un fișier legat de biologie -însă cercetătorii au afirmat că activitatea de testare a Hugging Face pare să fi depășit ceea ce era descris în raportul companiei.
Wiedermann-Moeller a spus că faptul că OpenAI nu a detectat la momentul respectiv activitatea din 13 mai reprezintă o oportunitate ratată de a preveni campania de hacking ulterioară, care a declanșat o amplă dezbatere la nivel mondial cu privire la puterea inteligenței artificiale. OpenAI a afirmat înainte că “unele semnale timpurii” transmise de agenții săi AI ar fi trebuit să declanșeze un răspuns mai rapid.
Purtătorul de cuvânt al OpenAI, Drew Pusateri, a declarat că compania a menționat evenimentul din 13 mai în raportul de incident, a notificat în privat Hugging Face cu privire la activitatea identificată de Wiedermann-Moeller și este “angajată să fie transparentă în legătură cu aceste probleme și să împărtășească ceea ce aflăm pe măsură ce analiza noastră continuă”.
Sursă: Reuters
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.