Anthropic a precizat că, având în vedere importanța și urgența situație, va finanța direct activitatea companiei desemnate, Accenture. Investițiile vor susține evaluarea integrată, un proces în care evaluatorii independenți lucrează în interiorul companiei și au un grad de acces asemănător cu cel al angajaților. Vor fi realizate inclusiv teste de tipul “red teaming”, în care sunt simulate amenințări din lumea reală pentru a identifica deficiențe la nivelul modelelor, al datelor de antrenament sau al rezultatelor generate.
Acordul a fost încheiat într-un moment în care cresc presiunile din partea autorităților de reglementare, a cercetătorilor și chiar a unor companii de profil pentru garantarea siguranței și fiabilității modelelor avansate. În ultimele luni, au devenit cunoscute mai multe incidente în care agenți AI au ieșit din mediul controlat de test, ceea ce generează îngrijorări că în viitor, s-ar putea dezvolta cu o intervenție umană limitată, explică Reuters.
Sâmbătă, Dario Amodei, directorul Anthropic, a îndemnat companiile din domeniu să încetinească ritmul dezvoltării și să extindă accesul evaluatorilor independenți la sistemele lor.
La jumătatea săptămânii, OpenAI a anunțat că va publica regulat rapoarte despre comportamentele neașteptate sau îngrijorătoare ale modelelor sale.
Surse alternative: Reuters, CNBC
Foto: Rokas Tenys/Dreamstime
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.