Co-fondatorul OpenAI, Ilya Sutskever, şi şeful departamentului de reglementare, Jan Leike, au avertizat despre pericolele apariţiei unei noi generaţii “superinteligente” de AI: “Uriașa putere a superinteligenței ar putea… duce la pierderea supremaţiei umanității sau chiar la extincţia oamenilor. În prezent, nu avem o soluție pentru a conduce sau a controla AI potențial superinteligentă și pentru a preveni ca aceasta să devină rea”.
Superinteligența – sistemele mai inteligente decât oamenii – ar putea fi dezvoltate în acest deceniu, au mai scris cei doi într-o postare pe blogul companiei OpenAI. Oamenii vor avea nevoie de tehnici mai bune decât cele disponibile în prezent, pentru a putea controla AI superinteligentă. De aici derivă nevoia de descoperiri în domeniul “cercetării de aliniere”, care se asigură că AI rămâne benefică pentru oameni.
În acest scop, OpenAI a transmis că va dedica, pentru următorii patru ani, 20% din puterea de procesare a AI pentru a căuta soluţii. În plus, va forma o echipă dedicată exclusiv cercetării “metodelor de aliniere”. În esenţă, rolul echipei este să creeze un instrument de reglementare AI de “tip uman”, ca mai apoi să-l îmbunătăţească printr-o putere imensă de procesare. Echipa va antrena iniţial sistemele AI prin feedback uman, urmând ca mai apoi sistemele “să asiste” la procesul de revizuire şi, în final, să întocmească în mod independent cercetări de aliniere la noile regulamente.
Connor Leahy, susținător al siguranței AI, a declarat că planul este fundamental eronat, deoarece AI-ul de tip uman ar putea să scape de sub control și să facă ravagii înainte de finalizarea procesului: “Trebuie rezolvată întâi problema reglementării înainte de a construi o inteligență de nivel uman, altfel, în mod implicit, nu va putea fi controlată”.
Potenţialele pericole ale AI au intrat atât în atenția cercetătorilor din domeniu, cât și a publicului larg. Acum aproximativ trei luni, un grup de lideri și experți din industrie au semnat o scrisoare deschisă prin care au solicitat o pauză de șase luni în dezvoltarea unor sisteme de inteligenţă artificială mai puternice, invocând posibilele riscuri pentru societate. Un sondaj Reuters/Ipsos din luna mai a constatat că peste două treimi dintre americani sunt îngrijorați de potenţialele efecte negative ale AI și peste 60% consideră că aceasta ar putea amenința umanitatea.
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.