Sute de angajați ai Google, cercetători din domeniul AI, îi cer directorului companiei să nu permită folosirea sistemelor de inteligență artificială în scop militar de către Pentagon, pentru supravegherea populației sau arme autonome.

Cei 580 de cercetători i-au înaintat o scrisoare directorului Sundar Pichai prin care precizează că își doresc ca inteligența artificială să lucreze în beneficiul omenirii, “nu să fie folosită în moduri inumane sau extrem de dăunătoare”, inclusiv integrarea în arme autonome sau în tehnologii de supraveghere în masă. Conform presei americane, Google a semnat un acord în acest sens cu Departamentul Apărării.

Înțelegerea prevede că Pentagonul poate folosi serviciile în orice scop guvernamental legal și are o clauză care menționează că “părțile sunt de acord că sistemele AI nu sunt destinate și nu ar trebui utilizate pentru supravegherea în masă internă sau pentru arme autonome (inclusiv selecția țintelor) fără o supraveghere și un control uman adecvat. Acordul nu conferă niciun drept de a controla sau de a bloca procesul decizional operațional legal al guvernului”. Reuters, care a preluat informația, precizează că nu a putut-o verifica în mod independent.

În conținutul scrisorii puse la dispoziția Bloomberg, se arată: “Noi suntem angajați ai Google profund îngrijorați de negocierile în curs dintre companie și Departamentul american al Apărării. Ca oameni ce lucrează în domeniul AI, știm că aceste sisteme pot centraliza puterea și face greșeli. (…) În prezent, singura modalitate de a garanta că Google nu este asociat cu astfel de daune este de a respinge orice sarcini de lucru clasificate. În caz contrar, astfel de utilizări pot avea loc fără știrea sau puterea noastră de a le opri”.

Două treimi dintre cei care au semnat scrisoarea au acceptat să își facă public numele, iar restul au cerut anonimat, de teamă să nu fie sancționați. Între semnatari, se află peste 20 de directori și vicepreședinți. Sofia Liguori, cercetătoare la divizia Google DeepMind din Marea Britanie, a declarat că Google nu a discutat cu angajații despre limite concrete privind folosirea AI în rețelele clasificate sau de altă natură. Ea consideră că, odată instalate pe rețele militare izolate de internet, sistemele AI ar deveni greu de monitorizat, iar compania nu ar mai putea controla modul în care sunt folosite.

Protestul angajaților Google vine după o dispută între Pentagon și altă companie de AI, Anthropic, pe tema utilizării AI în scopuri militare. Departamentul Apărării încearcă să elimine instrumentul Claude și caută noi parteneri, în condițiile în care investește miliarde de dolari în dezvoltarea de arme autonome și în alte modalități de a folosi inteligența artificială în scop militar.

Bloomberg amintește că aceasta nu este prima revoltă a angajaților Google pe această temă. Încă din 2018, aceștia au avertizat cu privire la riscul unui război bazat pe AI și au forțat compania să renunțe la colaborarea în cadrul proiectului Maven, prin care Pentagonul dorea folosirea inteligenței artificiale pentru a detecta și analiza obiecte din imaginile captate de drone. În fața protestelor și demisiilor, compania a adoptat noi principii privind AI și nu și-a reînnoit angajamentele pentru proiect. Totuși, legăturile cu industria americană de apărare au fost reluate recent, iar experții atrag atenția că “Google și-a diluat liniile roșii”. Angajații care au semnat noua scrisoare spun că protestele vor continua până când Google va stabili limite clare și obligatorii privind folosirea tehnologiei sale în scop militar.

Sursă: Bloomberg

Foto: U.S. Army National Guard / Sgt. Renee Seruntine