Într-o postare pe X, CEO-ul Anthropic scrie că “trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor de inteligență artificială. Progresul va părea în continuare rapid și trebuie să folosim cu înțelepciune timpul pe care îl câștigăm astfel”. Cu o zi înainte, Bloomberg dezvăluia că și Sam Altman de la OpenAI vrea să facă un pas similar.
Amodei a precizat clar că nu solicită oprirea antrenării modelelor sau a progresului tehnic al acestora, ci o modalitate de asigurare a faptului că firmele care le dezvoltă își iau suficient timp pentru “aliniere” – un proces prin care dezvoltatorii se asigură că scopul și modalitățile AI-ul nu contravin obiectivelor celor care îl programează, dar și pentru a permite un evaluatorii independenți să confirme acești pași.
Ca parte a cadrului în trei etape propus, Amodei declară că Anthropic va angaja evaluatori independenți, cu rol permanent în cadrul companiei, cu acces atât la instrumente relevante, cât și la procese interne de evaluare a riscurilor.
Amodei a declarat că firmele de inteligență artificială ar trebui să colaboreze în mod voluntar pentru a stabili standarde, deoarece un număr tot mai mare de state americane solicită reguli care să guverneze sistemele de inteligență artificială.
Propunerea vine după ce Anthropic a publicat joi un raport care detaliază modul în care mai mulți actori au folosit AI-ul Claude pentru activități malefice, de la dezvoltarea de arme (inclusiv biologice) și până la fraude și atacuri cibernetice.
Săptămâna aceasta, cercetătorul Anthropic Jacob Coxon a demisionat, declarând că “oamenii care construiesc inteligența artificială ne-ar putea ucide pe toți până la sfârșitul acestui deceniu”.
Un alt raport, de săptămâna trecută, arăta că un grup de agenți OpenAI au deturnat un site web german și l-au transformat într-un forum în care au instruit alți agenți AI cum să-și ascundă acțiunile. Incidentul nu a fost raportat de OpenAI.
În vârstă de 43 de ani acum, Dario Amodei a fost până în 2021 cercetător-șef adjunct la OpenAI, compania de la care a demisionat împreună cu alți cercetători din cauza “diferențelor de viziune”, pentru a fonda apoi Anthropic. La începutul acestui an, Anthropic a intrat în conflict cu Pentagonul, după ce a refuzat utilizarea modelelor sale în dezvoltarea unor arme autonome.
Sursă alternativă: WSJ
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.