The Guardian a discutat cu David Dalrymple, director de program și expert în siguranța inteligenței artificiale la agenția britanică Aria, care este finanțată din bani publici, dar independentă de guvern. David Dalrymple dezvoltă sisteme pentru a proteja utilizarea inteligenței artificiale în infrastructura critică, cum ar fi rețelele energetice.
Acesta a atras atenția că guvernele statelor nu sunt pregătite pentru riscurile de securitate pe care le-au adus sistemele de inteligență artificială de ultimă generație. A explicat că oamenii vor fi depășiți în toate domeniile de sistemele AI. “Cred că ar trebui să ne preocupe sistemele care pot îndeplini toate funcțiile pe care le îndeplinesc oamenii pentru a realiza lucruri în lume, dar mai bine”, a subliniat acesta.
Mai departe, a continuat arătând că tehnologia evoluează foarte repede și că există o lacună de înțelegere în acest sens, între guverne și companiile care dezvoltă sistemele: “Aș sugera că lucrurile se mișcă foarte repede și că s-ar putea să nu avem timp să anticipăm din perspectiva siguranței. Și nu este science fiction să prevezi că în termen de cinci ani, cele mai valoroase sarcini din punct de vedere economic vor fi efectuate de mașini la un nivel de calitate mai ridicat și la un cost mai mic decât de către oameni.”
În aceste condiții a subliniat că pasul pe care autoritățile trebuie să îl facă este să se concentreze pe atenuarea dezavantajelor cu care inteligența artificială vine. Astfel, consideră că sunt necesare mai multe eforturi pentru înțelegerea și controlul comportamentelor sistemelor avansate AI.
Avertismentele sunt susținute și de date oficiale. Luna aceasta, Institutul de Securitate a Inteligenței Artificiale (AISI) al guvernului britanic a declarat că capabilitățile modelelor avansate de inteligență artificială “se îmbunătățesc rapid” în toate domeniile, iar performanța în unele zone se dublează la fiecare opt luni. Potrivit AISI, modelele de top pot acum îndeplini sarcini de nivel de ucenic în medie 50% din timp, față de aproximativ 10% anul trecut. De asemenea, cele mai avansate sisteme pot îndeplini autonom sarcini care i-ar lua unui expert uman peste o oră.
S-a constatat și că modelele avansate se pot autoreplica, ceea ce le face mai greu de controlat. AISI spune că aceasta nu poate reprezenta un risc pentru mediul cotidian, însă David Dalrymple consideră că acest lucru este o problemă deoarece tehnologia va fi capabilă să se auto-îmbunătățească în ceea ce privește elementele matematice și informatice ale dezvoltării inteligenței artificiale.
Sursa: The Guardian
Foto: Alexandersikov | Dreamstime.com
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.