O analiză realizată de The Guardian relevă că instrumentele de AI care generează voci realiste sunt tot mai des exploatate de mișcări extremiste, de la neo-naziști și până la grupări jihadiste, pentru a-și extinde audiența și pentru a-și intensifica mesajele ideologice. Specialiștii în combaterea terorismului spun că noile tehnologii le permit acestora să depășească barierele lingvistice și să creeze conținut audio cu impact emoțional, mai convingător.
“Traducerile automatizate și replicarea vocală prin AI de către teroriști și extremiști marchează o evoluție semnificativă a strategiilor de propagandă digitală”, subliniază un oficial din cadrul Tech Against Terrorism (organizație internațională pentru combaterea utilizării mediului online de către grupările teroriste și extremiste). Potrivit acestuia, spre deosebire de metodele vechi, care se bazau pe traducători umani sau pe sisteme rudimentare de traducere automată, “noile instrumente generative pot reda, insesizabil și contextual, nuanțe, emoții și idei ce intensifică impactul ideologic, în mai multe limbi”.
Utilizarea software-urilor de clonare vocală este, deja, larg răspândită. Mai multe versiuni generate cu AI ale discursurilor lui Adolf Hitler, redate în limba engleză, au strâns zeci de milioane de vizualizări pe rețelele de socializare.
Un raport al Global Network on Extremism and Technology arată că inclusiv unii creatori de conținut extremist folosesc servicii comerciale de clonare vocală, alimentate cu discursuri istorice din perioada de dinaintea celui de-al Doilea Război Mondial. Și neo-naziștii radicali folosesc tehnologia AI pentru a-și răspândi ideile violente și pentru a încerca să destabilizeze societatea occidentală. Un exemplu oferit de The Guardian arată că aceștia au transformat în audiobook “Siege“, un manifest extremist redactat de James Mason, figură centrală în ideologia unor grupări precum The Base sau Atomwaffen Division (grupări neo-naziste și extremiste). Un influencer, susținător al acestor idei, a folosit un program de AI pentru a reproduce vocea autorului și a adapta textele vechi la un format mai modern și mai ușor de ascultat.
De asemenea, rețelele grupării teroriste ISIS folosesc activ AI pentru a transforma texte ideologice în materiale audio și video atractive, difuzate pe platforme criptate. Traducerile automate permit adaptarea rapidă a propagandei din arabă în mai multe limbi, inclusiv în limbi dificil de redat fără pierderea sensului sau a expresivității.
Mai multe grupări extremiste folosesc aplicații gratuite de AI, precum ChatGPT, pentru a genera texte, imagini sau pentru a-și eficientiza strategiile și cercetarea. Autoritățile antiteroriste avertizează că, deși tehnologia avansează rapid, grupările violente sunt printre primele care o exploatează. Specialiștii subliniază că această combinație dintre AI și extremism impune noi provocări pentru securitatea globală și pentru eforturile de a limita răspândirea propagandei violente în mediul online.
Foto: Yaroslaf | Dreamstime
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.