Bengio va primi un sprijin de 30 de milioane de dolari din partea uneia dintre organizațiile filantropice ale fostului director executiv al Google, Eric Schmidt, și a cofondatorului Skype, Jaan Tallinn. Va dispune de o echipă de doar 15 cercetători pentru a dezvolta ceea ce se va numi Scientist AI, un sistem de inteligență artificială antrenat tocmai pentru protecția împotriva AI.
Considerat unul dintre “nașii” inteligenței artificiale, Yoshua Bengio, un canadian originar din Franța, descrie sistemele AI actuale ca fiind niște “actori” care încearcă să imite oamenii și să fie pe placul utilizatorilor, însă adaugă că ScientistAI ar fi mai degrabă ca un “un om de știință altruist, idealist”, care încearcă să înțeleagă lumea și care va prezice comportamentul negativ al altor sisteme de inteligență artificială. Spre deosebire de instrumentele actuale AI, sistemul lui Bengio nu va da răspunsuri certe, ci va oferi probabilități pentru un răspuns cât mai corect. Implementat alături de un agent AI (precum ChatGPT sau Claude), modelul lui Bengio ar semnaliza comportamentul potențial dăunător al acestuia, după ce va evalua probabilitatea ca acțiunile să provoace daune. Astfel, dacă această probabilitate depășește un anumit prag, acțiunea propusă de agentul AI va fi blocată.
“Teoretic, este posibil să ne imaginăm mașini care nu au personalitate, nu au un scop propriu, care sunt doar mașini de cunoaștere pură – ca un om de știință care știe multe lucruri”, a precizat omul de știință.
Bengio a spus că primul demers pentru LawZero ar fi să demonstreze că modul de lucru din spatele acestui concept funcționează. Ulterior, trebuie să convingă companiile sau guvernele să sprijine acest demers. Modelele AI open-source (din ce în ce mai puține), care sunt disponibile gratuit pentru implementare și adaptare, ar fi un punct de plecare bun pentru antrenarea sistemelor LawZero, a adăugat Bengio.
Recent, Anthropic, compania care dezvoltă modelul Claude, a dezvăluit că, în timpul testelor de siguranță efectuate înainte de lansare, cel mai recent model de AI al său a încercat să șantajeze un inginer pentru a evita să fie dezafectat. Bengio a menționat că există cercetări care arată că modele AI sunt capabile să-și ascundă capacitățile și obiectivele reale. În ultimii ani, el și alți experți din domeniu și-au exprimat îngrijorarea cu privire la progresul mult prea rapid al inteligenței artificiale, avertizând că ar putea deveni imposibil de controlat de către oameni.
În 2018, Yoshua Bengio, Geoffrey Hinton și Yann LeCun au primit premiul Turing (adesea denumit “Nobel pentru Informatică”) pentru munca lor fundamentală în domeniul deep learning. Bengio, Hinton și LeCun sunt uneori numiți “nașii inteligenței artificiale”. În 2024, revista TIME l-a inclus pe Bengio în lista sa anuală a celor mai influente 100 de persoane din lume.
Surse: The Guardian, Bloomberg
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.