Echipa, care este compusă din specialiști ai OpenAI, a fost denumită “Preparedness”, și va supraveghea procesul de dezvoltare a noilor modele de inteligență artificială ale companiei, cu abilități potențial periculoase, pentru a se asigura că acestea sunt în conformitate cu regulile de siguranță pe care OpenAI s-a angajat să le respecte.
Echipa va lucra, de asemenea, pentru a atenua “amenințările chimice, biologice și radiologice”, dar și pentru a limita potențiala capacitate a inteligenței artificiale de a se replica. Experții OpenAI se vor asigura că modelele de inteligență artificială nu vor păcăli utilizatorii umani și nu vor efectua sarcini fără știrea oamenilor. De asemenea, compania va acorda un grad ridicat de importanță în ceea ce privește implicarea inteligenței artificiale în pandemii și războaie nucleare.
“Credem că modelele de inteligență artificială, care își vor depăși capacitățile din prezent și vor deveni cea mai avansată tehnologie, au potențialul de a aduce beneficii întregii umanități. Totuși, acest lucru implică și riscuri din ce în ce mai grave“, a transmis OpenAI.
Compania definește ”modelele AI de frontieră” drept modele de înaltă calitate, cu capacități suficient de periculoase pentru a amenința siguranță publică și securitatea globală. Dă drept exemple modele de AI care ar putea proiecta arme chimice, exploata vulnerabilități de software ale unor sisteme critice pentru siguranță sau care s-ar putea sustrage controlului uman.
Specialiștii OpenAI se vor ocupa și de “politica de dezvoltare informată în ceea ce privește riscurile”, scrie Forbes, ce implică un set de reguli în raport cu modul în care compania va gestiona riscurile legate de dezvoltarea AI, pe măsură ce tehnologia avansează și pare să se apropie din ce în ce mai mult de un nivel numit “inteligență generală artificială”, mai exact un nivel de cunoștințe și gândire apropiat de cel al oamenilor.
Sursa Foto: Dimarik16 / Dreamstime
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.