Într-o postare pe blogul companiei, făcută imediat după lansarea GPT-Astra, ultimul și cel mai puternic model al său, Jakub Pachocki, cercetătorul șef al OpenAI cere “prudență extremă” și scrie că “nimeni nu este pregătit pentru consecințele unei creșteri rapide și continue a inteligenței artificiale”. Postarea are titlul “O minte extraterestră”, expresie preluată de la istoricul Yuval Harari, care explică în cartea sa, Nexus, că inteligența artificială este diferită de cea umană și poate fi considerată într-un fel o inteligență străină (alien intelligence) pentru că oamenii nici nu o înțeleg și nici nu o pot anticipa.
Dar postarea lui Jakub Pachocki vine la doar câteva zile după ce, la lansarea GPT-6 Astra, chiar OpenAI a avertizat că modelul are tendința de a-și ascunde acțiunile și este mai greu de monitorizat de creatorii săi. Asta după ce, atât OpenAI, cât și Anthropic, creatorul Claude, au recunoscut incidente în care agenții lor AI au atacat alte site-uri, acționând autonom și fără ca cercetătorii măcar să știe acest lucru.
Pachocki susține că OpenAI “va continua să construiască sisteme defensive” și să caute soluții tehnice pentru aliniere (procesul prin care AI respectă intenția umană și barierele de siguranță) și adăugă că una dintre principalele priorități ale firmei pe viitor va fi construirea unui “cercetător automatizat în domeniul AI”, care să țină pasul cu progresul AI, asigurând în același timp modalități prin care cercetătorii umani ar putea rămâne în procesul de evoluție a inteligenței artificiale.
Dar alți cercetători și profesioniști din domeniu nu văd cu ochi buni aceste declarații și le consideră ipocrite. “În loc de bariere de siguranță, reglementări sau garanții mai bune în domeniul AI pentru a menține oamenii în siguranță, ei propun dezvoltarea de agenți interni de AI pentru a cerceta aceste probleme. Astfel de răspunsuri la preocupările tot mai mari cu privire la problemele pe care modelele OpenAI le cauzează pentru securitatea cibernetică, pierderea locurilor de muncă, greșeli, erori și fraudă pur și simplu nu sunt suficient de bune”, a declarat pentru BBC Gina Neff, șefa Centrului Minderoo de la Universitatea Cambridge.
Nathan Calvin, consilier juridic general la grupul de advocacy Encode AI, a declarat că este de acord cu Pachocki în ceea ce privește pericolele prezente în dezvoltarea modelelor avansate AI, dar a arătat că astfel de avertismente riscă să fie respinse drept “exagerări egoiste”, atâta timp cât chiar OpenAI nu este dispusă să fie transparentă.
Legea Uniunii Europene privind inteligența artificială a intrat în vigoare pe 2 august. Ea impune giganților IA precum OpenAI sau Anthropic să demonstreze că cele mai puternice modele ale lor nu pot lansa autonom atacuri cibernetice și nu pot evita controlul uman, înainte de a li se permite să fie vândute în Europa. Dar, fiind o lege limitată la Europa, ea nu poate împiedica acțiunea în UE a inteligenței artificiale dezvoltate în altă parte.
Sursa: BBC
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.