Wikimedia Foundation, organizația non-profit care administrează Wikipedia, a anunțat că a efectuat propria investigație, în contextul în care mai multe organizații au anunțat în ultima perioadă că site-urile lor au încercat să fie accesate, uneori cu succes, de agenții AI. Fundația Wikimedia arată că în cadrul propriei cercetări s-a concentrat pe agenții AI ai OpenAI.
În urma verificărilor, organizația a transmis: “Putem confirma că am descoperit o anumită activitate a acestor agenți neautorizați OpenAI pe platformele Wikimedia. Activitățile boților neautorizați au inclus modificări ale wiki-urilor, unele încercări nereușite de a exploata un instrument public de luare de notițe pe care îl găzduim și trafic intens”.
Mai exact, agenții au accesat milioane de pagini și au făcut sute de mii de interogări către serviciul Wikidata Query Service (WDQS), cel care permite căutarea și analizarea datelor din Wikidata. În urma acestei constatări, Wikimedia a arătat că este posibil ca incidentul din mai, când serviciul a fost suprasolicitat și a funcționat parțial defectuos timp de câteva zile, să fi fost provocat chiar de AI. Totuși, compania a subliniat nu a găsit nicio dovadă că sistemele sale au fost folosite pentru coordonarea între agenți și nici că sistemele sau datele le-au fost compromise.
Investigația Wikimedia a identificat și schimbări neautorizate pe mai multe wiki-uri. Aproape toate modificările identificate au fost teste în zone de tip “sandbox”, adică nu au fost publicate pe pagini vizibile pentru cititorii obișnuiți. Câteva au vizat configurația unui instrument de citare și au fost considerate potențial rău intenționate deoarece ar fi putut folosi instrumentul ca intermediar pentru accesarea unor servicii externe.
Agenții despre care Wikimedia crede că erau operați de OpenAI au încercat, fără succes, să exploateze și Etherpad, un instrument public de luat notițe găzduit de Wikimedia. Unele încercări au urmărit folosirea Etherpad pentru accesarea unor date de pe alte site-uri. Alți agenți au folosit instrumentul pentru a lua notițe despre sarcinile lor, însă Wikimedia nu a găsit dovezi că aceste acțiuni au dus la coordonarea agenților.
OpenAI a declarat că lucrează împreună cu organizația pentru a analiza activitatea identificată. Wikimedia a spus că va continua să ofere informații relevante pe măsură ce investigația avansează.
Sursă alternativă: Reuters
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.