Compania cu sediul în San Francisco a detașat aproximativ șase angajați în cadrul Agenției Naționale de Securitate (NSA) în calitate de așa-numiți ingineri detașați pe teren pentru a oferi îndrumare utilizarea tehnologiei și pentru a personaliza modelele pentru aplicații specifice, au declarat două persoane familiarizate cu acordul pentru Financial Times. Nu este încă clar dacă inginerii Anthropic asistă NSA în operațiuni active. Cu toate acestea, o persoană familiarizată cu situația a precizat că Mythos ar fi util pentru infiltrarea rețelelor unor țări precum China sau Iran.
“Cea mai bună modalitate de a crea o apărare bună este de a crea un atac bun. Dacă [Mythos] nu este folosit pentru a crea agenți de atac, adversarii vor găsi o modalitate de a o face”, a spus o persoană apropiată de Anthropic, care a susținut că rivalii își dezvoltă probabil propria tehnologie ofensivă bazată pe AI. Atât Anthropic, cât și Departamentul Apărării al SUA au refuzat să ofere un punct de vedere.
Acordul a fost încheiat în ciuda disputei juridice dintre companie și Departamentul Apărării – care include și NSA – cu privire la modul în care tehnologia sa este utilizată în operațiuni militare. Mai exact, Anthropic a încercat să limiteze utilizarea de către guvernul SUA a modelului său AI, Claude, pentru supravegherea în masă a cetățenilor americani și pentru drone autonome de luptă. Anthropic a intentat un proces împotriva guvernului SUA, după ce a refuzat să permită utilizarea instrumentelor sale de inteligență artificială în scopuri militare. Astfel, guvernul american a considerat companie un “risc pentru lanțul de aprovizionare”.
După debutul disputei, Anthropic a lansat modelul AI Claude Mythos, capabil să descopere și să exploateze autonom vulnerabilități sau chiar să compromită sisteme de apărare națională. Acesta a provocat îngrijorări în rândul guvernelor, băncilor și companiilor din tehnologie, care au transmis că se tem că abilitatea modelului de a descoperi rapid vulnerabilități software ar putea fi exploatată de infractori cibernetici și ar putea contribui la creșterea numărului de atacuri cibernetice.
La începutul acestei săptămâni, compania americană a anunţat extinderea accesului la modelul său avansat de inteligenţă artificială Mythos către încă 150 de organizaţii din peste 15 ţări, decizie care a evidențiat importanța comercială și geopolitică tot mai mare a inteligenței artificiale pentru securitatea națională.
După lansarea Mythos, OpenAI, rivalul Anthropic, a lansat un model cu capacități similare. Experții au avertizat că modelele avansate de inteligență artificială permit hackerilor să exploateze sistemele informatice, dar pot servi și ca un instrument puternic împotriva adversarilor.
Sursă: Financial Times
Foto: Andrey Popov | Dreamstime.com
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.