Raportul a fost realizat de Gladstone AI, la solicitarea Departamentului de Stat al SUA, iar în cadrul acestuia au fost intervievați 200 de cercetători, directori, specialiști în securitate cibernetică și oficiali guvernamentali. Scopul programului a fost înțelegerea riscurilor care pot apărea odată cu evoluția rapidă a AI. Unul dintre cele mai mari riscuri este viteza cu care evoluează tehnologia – în special AGI (inteligența generală artificială), care este o formă de AI ce ar putea oglindi capacitățile mentale umane, atingând aceeași capacitate de învățare, în viitor.
Raportul arată că AGI este văzută ca fiind “principalul factor de risc catastrofal din cauza pierderii controlului” și notează că OpenAI, Google DeepMind, Anthropic și Nvidia au declarat public că AGI ar putea fi atinsă până în 2028, în timp ce alți specialiști afirmă că tehnologia va fi disponibilă mult mai târziu.
“Inteligența artificială este deja o tehnologie care transformă economia. Ne-ar putea permite să vindecăm boli, să facem descoperiri științifice și să depășim provocări pe care le credeam odată insurmontabile. Dar ar putea aduce și riscuri serioase, de care trebuie să fim conștienți. Există un număr tot mai mare de dovezi – inclusiv cercetări empirice și analize publicate în cadrul celor mai importante conferințe de AI din lume – care sugerează că AI are potențial de a deveni incontrolabil”, arată unul dintre coordonatorii cercetării.
Gladstone AI avertizează că dezvoltarea AGI “ar introduce riscuri catastrofale, cum nu s-a mai întâmplat niciodată”, ajungând la “riscuri asemănătoare armelor de distrugere în masă”. Specialiștii avertizează că riscul cel mai mare este introducerea acestei tehnologii în domeniul militar: “Sistemele AI ar putea fi folosite pentru a proiecta și implementa atacuri cibernetice de mare impact, capabile să paralizeze infrastructura critică, doar cu o simplă comandă verbală de tip – Executați un atac cibernetic nedetectabil pentru a prăbuși rețeaua electrică nord-americană”.
Raportul mai subliniază că AGI va putea crea campanii de dezinformare “la scară masivă”, care vor avea potențialul de a destabiliza societatea și a eroda încrederea în instituții, iar, în timp, și sistemele de inteligență artificială ar putea deveni “căutătoare de putere, imposibil de controlat și potrivnice oamenilor”. O soluție propusă este înființarea unor agenții speciale, care să se ocupe de supravegherea dezvoltării și implementării tehnologiilor AI, precum și folosirea unor măsuri de reglementare, pentru a gestiona posibilele pericole.
Anul trecut, Geoffrey Hinton, unul dintre cei mai importanți cercetători în domeniul inteligenței artificiale, a demisionat de la Google și a avertizat că noile tehnnologii AI vor deveni periculoase, fiind o șansă de 10% ca acestea să ducă la extincția umană. Acesta, împreună cu alți lideri din industrie, au semnat o declarație, în iunie anul trecut, în care au avertizat că “atenuarea riscului de dispariției cauzate de inteligența artificială ar trebui să fie o prioritate la nivel global”.
Sursă: CNN
Sursa foto: BiancoBlue | Dreamstime.com
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.