Nvidia a anunțat că formează alături de Microsoft, SpaceX, IBM, Palantir și alte companii din domeniul tehnologiei, alianța numită “Open Secure AI Alliance”, care va dezvolta instrumente open-source pentru securitatea inteligenței artificiale. The Verge remarcă însă absența unor companii americane importante din domeniul AI, printre care OpenAI, Google și Anthropic, din lista membrilor alianței.
Potrivit Nvidia, alianța va identifica, remedia și dezvălui vulnerabilități folosind modele deschise (“open-weight models”) ai căror parametri antrenați sunt publicați pentru a putea fi descărcați și utilizați local și care pot fi modificate în funcție de nevoile utilizatorilor. Compania afirmă că incidentul HuggingFace, primul caz în care un sistem AI a inițiat un atac cibernetic necontrolat în lumea reală, a demonstrat că specialiștii în securitate au nevoie de sisteme AI avansate pe care le pot inspecta, adapta și rula pe propria infrastructură pentru a răspunde rapid la noile amenințări cibernetice.
A ieșit la iveală că startup-ul HuggingFace, nu a putut folosi modelele de ultimă generație din SUA pentru a se apăra, deoarece mecanismele de protecție nu făceau distincție între cel care atacă și cel care apără. În schimb, compania a apelat la un model chinezesc open-source, rulat pe propria infrastructură, care nu era supus acelorași restricții.
Formarea alianței are loc în contextul în care autoritățile americane analizează posibilitatea unor restricții pentru modelele AI dezvoltate în China. Companiile chineze din acest sector au fost acuzate că folosesc o tehnică numită “distillation”, prin care un model AI poate extrage informații și cunoștințe dintr-un model mai performant, deja antrenat pe cantități uriașe de date.
Săptămâna trecută, secretarul Trezoreriei SUA, Scott Bessent, a avertizat companiile implicate în astfel de practici că ar putea fi sancționate. Nvidia, Microsoft, Meta, Palantir și peste 20 de companii au publicat o scrisoare prin care au cerut autorităților americane să evite restricțiile impuse modelelor deschise, argumentând că limitările ar putea reduce concurența și ar împinge inovația în afara Statelor Unite. Scrisoarea a fost semnata și de Google și de OpenAI, însă Anthropic nu s-a alăturat demersului.
Surse alternative: CNBC, The Verge
Poza: Napong Rattanaraktiya | Dreamstime.com
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.