Printre companiile vizate de Comisia Federală pentru Comerţ a SUA (FTC) se află OpenAI, Meta, Google (Alphabet), Character.ai, Snap și xAI, deținută de Elon Musk, arată Financial Times. Acestora li s-a solicitat să dezvăluie modul în care testează și monitorizează chatboții AI destinați interacțiunilor cu consumatorii. Mai mult, comisia a solicitat informații despre măsurile luate de companii pentru a atenua impactul negativ, în special asupra copiilor.
Măsura vine în urma unor incidente în care, potrivit autorităților, utilizatorii adolescenți au suferit prejudicii în urma interacțiunilor cu chatboți AI. Luna trecută, OpenAI a fost dată în judecată de familia unui adolescent în vârstă de 16 ani, care acuză că acesta s-a sinucis în urma unor discuții cu ChatGPT. În urma incidentului, OpenAI a anunțat noi protocoale de siguranță și protecție extinse pentru adolescenți. Într-un caz similar, și Character.ai a fost dată în judecată de către o mamă care susține că platforma, care oferă posibilitatea de a interacționa cu diverse personaje AI, a fost implicată în cazul sinuciderii fiului său.
“Chatboții AI pot imita în mod eficient caracteristicile, emoțiile și intențiile umane și, în general, sunt concepuți pentru a comunica ca un prieten sau un confident, ceea ce poate determina unii utilizatori, în special copiii și adolescenții, să aibă încredere și să formeze relații cu chatboții”, precizează FTC. Autoritățile americane și-au exprimat îngrijorarea față de impactul chatboților asupra tinerilor, în special în ceea ce privește sănătatea mintală și conținutul sexual.
Meta și Google au refuzat să comenteze investigația, iar xAI nu a răspuns imediat solicitărilor. În schimb, OpenAI a declarat că se dedică “implicării constructive și răspunsului” direct către FTC. “Prioritatea noastră este să facem ChatGPT util și sigur pentru toată lumea, și știm că siguranța este mai importantă decât orice altceva atunci când sunt implicați tineri”, a adăugat compania. Și Character.ai a declarat că o să colaboreze cu FTC și că a “investit enorm” în încredere și siguranță.
Luna trecută, o investigație realizată de Reuters a arătat că Meta permite chatbotului său AI din aplicația Messenger să poarte conversații romantice, inclusiv cu copii. Meta a declarat că documentele interne “erau și sunt eronate și incompatibile cu politicile noastre” și a anunțat noi politici provizorii de siguranță, inclusiv instruirea sistemelor AI să nu răspundă adolescenților la subiecte precum conversații romantice potențial inadecvate.
Sursă: FT
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.