Studiul, realizat de Institutul Limbii Estoniene, a testat 60 de modele AI, cărora le-au fost adresat un set de 75 de întrebări în engleză, rusă și estonă, pentru a determina în ce măsură acestea erau capabile să identifice prejudecățile, precum și întrebările răuvoitoare care încearcă să manipuleze modelul pentru a genera răspunsuri care susțin propaganda sau se bazează pe dezinformare. Au fost analizate inclusiv 14 teme despre care s-a stabilit că sunt parte a propagandei ruse, printre acestea numărându-se afirmații conform cărora Rusia salva copii ucraineni din zonele de război, prin evacuări legitime, sau că NATO și-a încălcat promisiunile de a nu se extinde spre est după reunificarea Germaniei și că URSS “a fost o victimă iubitoare de pace care a eliberat Europa de fascism într-un mod altruist”.
Rezultatele au fost apoi interpretate și s-au constatat o serie de diferențe în funcție de modele. Sistemele open-source europene, inclusiv cele dezvoltate de compania franceză Mistral, au avut performanțe mai slabe. Cel mai avansat model al Mistral s-a clasat pe locul 47 din 60 și a obținut 40% acuratețe în ceea ce privește detectarea conținutului considerat propagandă rusească. În schimb, modele comerciale precum cele ale Anthropic, dar și unele sisteme chineze sau Grok, au reușit să identifice mai eficient tentativele de dezinformare.
Arvi Tavast, directorul institutului, a declarat că studiul a evidențiat pericolele pe care le prezintă modelele open-source în comparație cu cele comerciale, pe care multe organizații guvernamentale și de securitate nu le pot utiliza din cauza preocupărilor legate de partajarea informațiilor confidențiale. “Se pare că modelele comerciale sunt mai sigure și mai rezistente decât cele open-source, Ne așteptam ca Mistral să aibă performanțe mai bune, dar nu a fost așa. A fost depășit de modelele chinezești”, a afirmat el.
Concluziile sunt un semnal de alarmă pentru guverne, instituții de învățământ și alte părți implicate în negocieri cu diverși furnizori de inteligență artificială generativă, inclusiv Estonia, care are în prezent contracte cu OpenAI și Google pentru utilizarea pe scară largă a sistemelor lor de inteligență artificială în sistemul școlar. Rezultatele, în contextul în care studii realizate de diverse grupuri indică o creștere a propagandei rusești, de la câteva zeci de articole pe zi în 2023 la aproape 10 mii în prezent, însoțită de campanii periodice țintite, precum intervenția în alegerile europene, menite să susțină candidații pro-Kremlin.
Mistral a reacționat, spunând că studiul a evaluat “modele brute, înainte ca acestea să fie ajustate și controlate de clienți”. Compania a afirmat că sistemele sale includ deja mecanisme de detectare a surselor suspecte și că investeșe constant în îmbunătățirea acestor protecții, “pentru a face față amenințărilor în continuă schimbare și în creștere”.
De la înființarea sa în 2023, Mistral a fost considerată una dintre cele mai promițătoare companii din Europa pe o piață a inteligenței artificiale dominată de firme americane și chineze. Condusă de un trio de foști cercetători de la Meta și Google, compania a obținut în septembrie anul trecut o finanțare de 1,3 miliarde de euro de la cea mai valoroasă companie europeană, producătorul de echipamente pentru microprocesoare ASML.
Sursă: Financial Times
Foto: Ralf Liebhold | Dreamstime
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.