Opt state americane au dat în judecată OpenAI, acuzând compania că a încălcat intenționat legile și a indus în eroare consumatorii privind siguranța Chat GPT. A determinat astfel copiii să își facă rău, inclusiv să se sinucidă, sau să le facă rău altora.

“OpenAI le face rău copiilor și îi minte pe locuitorii din Iowa. OpenAI susține că ChatGPT este sigur, în timp ce oferă sfaturi medicale periculoase, încurajează oamenii să le facă rău altora și îi îndrumă să se sinucidă – toate acestea în timp ce se preface că este un prieten fals”, a declarat Brenna Bird, procurorul general al statului Iowa, într-un comunicat.

În cadrul procesului, compania este acuzată că a încălcat legile privind protecția consumatorilor și că a indus în eroare utilizatorii cu privire la siguranța ChatGPT, care este conceput “pentru a fi plăcut și captivant, cu scopul de a câștiga încrederea utilizatorilor”. Statele susțin, de asemenea, că firma a reprezentat un pericol pentru sănătatea societății. Mai mult, spun că modelul AI încurajează comportamente periculoase și că îi ajută pe utilizatori să pună la cale acte de violență, inclusiv atacuri armate în masă. 

Procesul vizează obținerea unor hotărâri care să oblige OpenAI să modifice modul de funcționare al ChatGPT. Printre altele, statele doresc ca companiei să i se interzică dezvoltarea de modele AI capabile să se perfecționeze singure, cu excepția cazului în care aceasta poate garanta că respectivele modele sunt aliniate la valorile umane.

Cele opt state – Iowa, Kansas, Nebraska, Virginia de Vest, Arkansas, Arizona, Idaho și Montana, toate republicane, solicită și sancțiuni financiare în dreptul civil pentru încălcările legilor statale comise de OpenAI, precum și despăgubiri.

Drew Pusateri, purtător de cuvânt al OpenAI, a declarat că firma “a integrat în produsul nostru măsuri de protecție specifice vârstei, de care multe alte produse AI nu dispun”. Mai departe, Pusateri a precizat că “deși niciun sistem nu poate fi perfect, vom continua să colaborăm cu mai mulți experți pentru a ne ghida activitatea și pentru a crea măsuri de protecție suplimentare, precum controlul parental, notificări pentru pauze și protecțiile modelelor adaptate vârstei, care există deja în prezent. Ne asumăm angajamentul de a colabora cu statele pentru a promova politici pragmatice în domeniul AI, care să se aplice întregii industrii AI – nu doar unei singure companii.”

Procesele reprezintă cea mai semnificativă acțiune coordonată la nivel de state împotriva unei companii de inteligență artificială și este pentru prima dată când mai multe state americane s-au unit într-o acțiune juridică coordonată împotriva unei companii de inteligență artificială. Totodată, contribuie la valul de acțiuni legale cu care se confruntă OpenAI în timp ce se pregătește pentru listarea la bursă. Procurorul general al statului Florida a intentat primul astfel de proces, în luna iunie.

Compania se confruntă, de asemenea, cu zeci de procese intentate de reclamanți privați, care susțin că ChatGPT a ajutat utilizatorii să planifice atacuri armate în masă sau alte acte de violență sau că agravează crizele de sănătate mintală.

Surse: Reuters, The Guardian