Oficialii din guvernul britanic au explicat că inițiativa vine pe fondul îngrijorărilor tot mai mari legate de răspândirea rapidă a conținutului fals creat cu ajutorul inteligenței artificiale, care poate fi folosit pentru înșelăciuni, abuzuri și manipulare.
Deepfake-urile sunt materiale audio, video sau imagini modificate sau create artificial astfel încât să pară reale. Deși astfel de manipulări există de mulți ani, apariția și popularizarea instrumentelor de inteligență artificială generativă, precum chatbot-urile moderne, au dus la o creștere masivă atât a numărului, cât și a realismului acestui tip de conținut, făcându-l mult mai greu de identificat de către utilizatorii obișnuiți.
Astfel, guvernul britanic lucrează la un “cadru de evaluare” pentru detectarea deepfake-urilor, care va stabili standarde clare și unitare după care vor fi testate tehnologiile capabile să identifice acest tip de conținut. Scopul este ca autoritățile și companiile să poată evalua cât de eficiente sunt aceste instrumente în situații reale, precum fraudele online, furtul de identitate sau distribuirea de materiale sexuale fără consimțământ, dar și de a stabili anumite standarde care să sprijine lupta împotriva conținutului înșelător și dăunător creat cu ajutorul sistemelor AI.
Ministrul britanic al tehnologiei, Liz Kendall, a declarat că deepfake-urile sunt tot mai des folosite ca arme de către infractori, pentru a înșela populația, a exploata femei și fete și pentru a submina încrederea oamenilor în ceea ce văd și aud. Prin acest nou cadru, autoritățile vor putea identifica mai clar unde există lacune în capacitatea actuală de detectare și ce tipuri de conținut sunt cel mai dificil de recunoscut ca fiind false.
Datele guvernului britanic arată că amploarea fenomenului a crescut dramatic: aproximativ 8 milioane de deepfake-uri au fost distribuite în 2025, față de doar 500.000 în 2023. Această creștere explozivă a determinat guvernele și autoritățile de reglementare din întreaga lume să reacționeze mai ferm, întrucât legislația și mecanismele de control nu au ținut pasul cu evoluția rapidă a tehnologiei.
În Marea Britanie, crearea de imagini intime false fără consimțământ a fost recent incriminată. În paralel, autoritățile de reglementare din domeniul comunicațiilor și protecției datelor investighează chatbot-ul Grok, dezvoltat de compania lui Elon Musk, după ce s-a descoperit că acesta putea genera imagini sexualizate fără consimțământ, inclusiv cu minori.
Tehnologia de detectare a deepfake-urilor va fi antrenată astfel încât să poată identifica amenințări precum abuzul sexual, frauda și furtul identității. Prin parteneriatul cu Microsoft și experții din domeniu, guvernul britanic speră să creeze un standard de referință pentru detectarea deepfake-urilor, care să fie folosit atât de industrie, cât și de autorități, în încercarea de a limita efectele nocive ale conținutului generat de inteligența artificială.
Sursă alternativă: Reuters
Foto: Tero Vesalainen | Dreamstime
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.