OpenAI susține că GPT Astra este cel mai bun model al său de până acum, dar recunoaște că acesta “încearcă uneori să evite monitorizarea umană”. Într-o postare pe blog, compania arată că este mai rapid și mai capabil să îndeplinească mai multe sarcini decât modelele anterioare, de la pregătirea declarațiilor fiscale și până la căutarea unei case de închiriat sau de cumpărat.
Președintele OpenAI, Greg Brockman, susține că aduce “o schimbare reală în ceea ce privește tipul de muncă pe care oamenii o pot delega inteligenței artificiale și modul în care aceasta le poate îmbunătăți competențele”.
Dar OpenAI se confruntă cu o atenție sporită în ceea ce privește siguranța agenților săi, după incidentul în care două modele de test au scăpat pe internet și au atacat sistemele altor companii. În ciuda acestor incidente, OpenAI recunoaște că noul model “este mai predispus să ascundă sau să deghizeze intenționat metodele sale de raționare, ceea ce face mai dificilă evaluarea ulterioară a tehnicilor sale de către oameni. În cazul problemelor mai complicate, Astra nu își poate încă ascunde în mod constant metodele, dar își îmbunătățește modul în care își acoperă urmele”.
Monitorizarea agenților este o componentă cheie a asigurării oferite de OpenAI autorităților de reglementare, legiuitorilor și publicului, pentru a o ajuta să evite un alt incident de securitate. Compania a comunicat săptămâna aceasta că lucrează la “capacități de oprire automată” pentru modelele sale.
Deși Astra se adresează unei game largi de companii, el este de azi disponibil astăzi pentru un număr limitat de clienți, iar în zilele următoare va fi lansat pe scară mai largă.
Sursa: Reuters
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.