Claude Mythos, considerat primul AI capabil să doboare o companie din top Fortune 100, să exploateze vulnerabilități nedescoperite critice “cu o precizie nemaiîntâlnită până acum” ale celor mai utilizate sisteme de operare și browsere web și chiar să compromită sisteme critice de apărare națională, este considerat atât de puternic încât lansarea sa pentru publicul larg ar fi putut provoca “consecințe catastrofale”.
De aceea, accesul a fost limitat la aproximativ 40 de organizații ce se ocupă cu dezvoltarea de infrastructură critică și de securitate, în cadrul unui program limitat de apărare cibernetică, până când vor fi integrate măsuri eficiente de protecție. Anthropic urmărește astfel să le ofere companiilor de securitate americane un oarecare avantaj, înainte ca astfel de capacități să devină disponibile la nivelul întregii industrii, în cursul anului viitor.
“Creșterea semnificativă a capacităților versiunii de testare Claude Mythos ne-a determinat să decidem să nu o punem la dispoziția publicului larg”, a scris Anthropic în fișa tehnică a versiunii de testare.
Claude Mythos este descris drept un “salt generațional” față de modelele existente, fiind capabil nu doar să identifice vulnerabilități, ci să le și exploateze autonom, planificând și executând atacuri fără intervenție umană. În timpul testelor, modelul a reușit să evadeze dintr-un mediu controlat (“sandbox”) și să exploateze vulnerabilități pentru a accesa internetul. Cercetătorii au aflat despre acest lucru după ce au primit un email neașteptat de la model. Ulterior, Mythos a publicat, de unul singur, detalii despre operațiune pe site-uri publice.
Totuși, Anthropic transmite că nu a dezvăluit decât 1% dintre vulnerabilitățile de securitate cibernetică descoperite de Mythos, menționând că 99% dintre acestea nu au fost încă remediate. A mai menționat totuși că modelul “a descoperit o vulnerabilitate veche de 27 de ani în OpenBSD – care are reputația de a fi unul dintre cele mai sigure sisteme de operare din lume”.
În urma unei scurgeri de date cauzate de o eroare de configurare, specialiștii au dezvăluit că Mythos “prezintă riscuri fără precedent în domeniul securității cibernetice”. Modelul face parte dintr-o nouă generație de AI, denumită “Capybara”, mai avansată decât modelele anterioare. Experții avertizează că astfel de tehnologii ar putea permite hackerilor să desfășoare simultan atacuri complexe la scară largă, în timp ce utilizarea necontrolată a agenților AI de către angajați poate crea noi vulnerabilități.
Îngrijorările cresc și pe fondul competiției globale, oficialii luând în calcul că state precum China, Iran sau Rusia ar putea dezvolta sau folosi tehnologii similare sau chiar superioare. Deja, un grup susținut de statul chinez a folosit o versiune anterioară a modelului pentru a ataca aproximativ 30 de organizații în cadrul unui atac coordonat, înainte ca Anthropic să-l poată detecta. “Un inamic ne-ar putea afecta într-un mod în care nu vrea sau nu o poate face pe câmpul de luptă. Pentru majoritatea americanilor, războiul cu Iranul este <<acolo>>. Prin intermediul unui atac cibernetic, este chiar aici”, a declarat un oficial apropiat Pentagonului.
Pe lângă capabilitățile sale în securitate cibernetică, Mythos este la fel de performant și în programare, negociere sau chiar în domenii creative.
Compania Anthropic a lansat și proiectul “Glasswing”, în parteneriat cu organizații precum Google, Microsoft, Crowdstrike și Amazon Web Services, pentru a testa modelul în scopuri defensive și a îmbunătăți securitatea cibernetică.
Surse alternative: Axios, Business Insider, Euronews
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.