Compania americană de inteligență artificială Anthropic a transmis că “nu poate, în mod conștient”, să respecte cererea Pentagonului de a elimina măsurile de siguranță din modelul său de AI, Claude, și să acorde armatei americane acces nelimitat la capabilitățile sale. Explică faptul că eliminarea barierelor ar permite utilizarea Claude pentru supravegherea internă în masă sau în sisteme de arme autonome, iar o astfel de situație ar putea duce la uciderea oamenilor fără vreo intervenție umană.
“Utilizarea acestor sisteme pentru supraveghere internă în masă este incompatibilă cu valorile democratice”, a declarat directorul executiv Dario Amodei, care a adăugat că sistemele de inteligență artificială nu sunt încă suficient de fiabile pentru a fi utilizate în alimentarea armelor mortale fără un om care să aibă controlul final.
Zilele trecute, secretarul american al Apărării, Pete Hegseth, a dat companiei termen până vineri să schimbe regulile de acces. În caz contrar, Departamentul Apărării amenință că va anula un contract de 200 de milioane de dolari încheiat cu compania și că va considera Anthropic un “risc pentru lanțul de aprovizionare”, ceea ce va provoca probleme financiare grave pentru aceasta.
Dario Amodei a mai declarat și că amenințările lui Pete Hegseth nu vor schimba poziția companiei și că speră că secretarul Apărării își va “reconsidera” reacția. Experții au explicat că decizia pe care Anthropic o va lua în această situație este foarte importantă, fiind considerată un test pentru companie, anume dacă va pune profitul mai presus de siguranța oamenilor.
În ultimii ani, Departamentul Apărării a încheiat o serie de acorduri profitabile cu firme de tehnologie pentru ca acestea să construiască sau să integreze tehnologie de inteligență artificială în sistemele militare. În iulie anul trecut, Anthropic a fost una dintre numeroasele companii mari de tehnologie, inclusiv Google și OpenAI, care au încheiat contracte de până la 200 de milioane de dolari cu Departamentul Apărării. Totuși, ceea ce face Anthropic diferit este că, până de curând, compania era singura al căruia model AI era folosit în sistemele militare. Acum și modelul lui Elon Musk, xAI, a primit această permisiune.
Surse: The Guardian, DW
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.