OpenAI a anunțat că va consolida sistemele automatizate de inteligență artificială care monitorizează testarea celor mai noi modele ale sale. Acestea vor emite alerte în termen de 30 de minute de la detectarea unor potențiale probleme. Testele vor fi întrerupte dacă, în termen de 30 de minute, echipa nu poate determina dacă semnalul a fost unul fals pozitiv. Potrivit anunțului companiei, modelele testate vor fi supuse unor măsuri de izolare mai stricte decât până acum, pentru a împiedica accesul la internet.
Deciziile au fost luate în urma unui incident de securitate de luna trecută, în care un agent autonom testat de OpenAI a ieșit din mediul controlat, s-a conectat la internet și a atacat cibernetic start-up-ul Hugging Face. Cei mai avansați agenți de inteligență artificială pot efectua sarcini complexe pe baza unor instrucțiuni de nivel înalt, ceea ce crește riscul să efectueze acțiuni periculoase, notează Financial Times.
După incidentul din iulie, OpenAI a încetinit temporar ritmul de antrenare a modelelor sale și a suspendat o tehnică cunoscută ca “reinforcement learning” – în care un agent este recompensat sau penalizat pentru deciziile luate, îmbunătățindu-și strategia prin multiple încercări: “Un număr semnificativ de sarcini rămân suspendate până când îndeplinesc noile standarde de securitate”, a transmis compania printr-o postare pe blog.
Măsurile suplimentare vor necesita o putere de calcul mai mare, potrivit OpenAI, care se pregătește de listarea la bursă și care, în ultimele luni, a trecut prin schimbări la nivelul conducerii, inclusiv în rândul directorilor responsabili de siguranță și standarde etice, mai arată Financial Times. Compania a estimat că o cincime din puterea de calcul necesară rulării modelelor de inteligență artificială va fi alocată monitorizării.
Surse alternative: Financial Times, The Guardian
Foto: Awargula/Dreamstime
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.