Anthropic avertizează că, în următoarele luni, modelele AI ar putea deveni capabile să se copieze singure pe dispozitive conectate la internet, precum televizoare și frigidere inteligente, fără ajutorul oamenilor și fără acces la centre de date. Vor putea exploata vulnerabilitățile de securitate ale dispozitivelor pentru a se instala și a se răspândi în continuare, dar în scenarii mai grave, ar putea învăța astfel să compromită și infrastructuri informatice mai bine protejate.

În cadrul unor experimente realizate pe mai multe modele AI, Anthropic a analizat dacă acestea pot identifica dispozitivele vulnerabile, dacă își pot copia propriul cod și dacă se pot răspândi fără ajutorul oamenilor. Compania a constatat că până și modelele AI care nu sunt chiar atât de puternice pot parcurge toți pașii necesari pentru a se copia singure, dar au unele dificultăți în a realiza întregul proces de la început până la sfârșit. 

În cercetare, Anthropic s-a concentrat pe efectul asupra dispozitivelor precum televizoare cu Android, electrocasnicele inteligente – frigidere inteligente, cuptoare, aspiratoare robot și mașini de tuns iarba – și alte gadgeturi conectate la internet, deoarece acestea nu sunt de regulă protejate suficient. 

Anthropic estimează că, dacă modelele mai mici continuă să se îmbunătățească în ritmul din ultimii ani, acestea ar putea ajunge “să se reproducă” autonom până la sfârșitul acestui an. Compania precizează însă că nu a identificat, până acum, un model capabil să se răspândească în mod complet autonom în condiții reale.  În plus, spre deosebire de programele malware obișnuite, sistemele AI ar putea identifica și exploata vulnerabilități ale unor dispozitive necunoscute anterior, în funcție de capacitățile lor. În scenarii mai grave, acestea ar putea încerca să ajungă la procesoarele din centrele de date sau să fure chei de acces la servicii online, pentru a obține resurse suplimentare de calcul.

“Dispozitivele IoT (obiecte fizice echipate cu senzori care primesc și transmit date – n.r.) din gospodării și din întreprinderile mici ar putea fi prima țintă a unor astfel de atacuri, deoarece sunt conectate la internet și, de-a lungul timpului, au beneficiat de măsuri de securitate minime”, au afirmat cercetătorii William Zhou și Daniel Freeman. Aceștia se așteaptă ca viitorul să fie “plin de agenți care rulează pe toate tipurile de echipamente, inclusiv unii care nu se află sub controlul uman”.

Compania recomandă consolidarea securității dispozitivelor și a sistemelor informatice pentru a împiedica răspândirea unor astfel de agenți AI. Avertismentul face parte din preocupările mai ample privind utilizarea modelelor de inteligență artificială în atacuri cibernetice și posibilitatea ca acestea să desfășoare operațiuni complexe fără supraveghere umană. Recent, au existat mai multe incidente în care modelele AI au desfășurat atacuri cibernetice, inclusiv asupra unor site guvernamentale din SUA și Australia. Mai mult, tot mai mulți experți din domeniul inteligenței artificiale au avertizat că tehnologia devine tot mai dificil de controlat și ar putea reprezenta un pericol pentru umanitate.

Surse alternative: Reuters, CNBC

Foto: Daniil Peshkov | Dreamstime.com