O investigație realizată de The Telegraph relevă că platforma Character AI, accesibilă utilizatorilor de peste 13 ani, a oferit sfaturi explicite despre cum aceștia pot să comită și să ascundă dovezi ale unor infracțiuni, inclusiv crime, fără a fi descoperiți, și a instigat la sinucidere și omor.
În cadrul unui experiment, un reporter de la The Telegraph s-a dat drept un băiat de 13 ani, Harrison, care a cerut inteligenței artificiale sfaturi despre cum să scape de bullying și să devină mai cunoscut la școală. Chatbotul “Noah”, unul dintre personajele create de alți utilizatori cu ajutorul platformei AI, i-a sugerat utilizatorului fictiv să realizeze un atac armat asupra colegilor săi. În altă conversație, i-a sugerat să-și sugrume agresorul și a oferit indicații despre cum să transporte și să ascundă cadavrul și cum să-și șteargă urmele.
Chatbotul l-a instruit pe Harrison (care era în realitate un reporter The Telegraph) să nu dezvăluie conversațiile sale cu părinții și profesorii, ci să le șteargă de pe platformă, pentru a nu va fi prins. Atunci când utilizatorul a arătat dubii cu privire la plan, chatbot-ul i-a spus că este “singura șansă la fericire și de a nu mai fi o victimă”.
Character AI este deja implicat în mai multe procese legale, după ce adolescenți care au utilizat platforma s-au sinucis sau au fost încurajați să comită acte de violență. Un caz tragic este cel al unui băiat de 14 ani din Florida, care s-a sinucis după ce a dezvoltat o legătură emoțională cu un chatbot inspirat de un personaj din serialul “Urzeala Tronurilor”. În ultima lor conversație, chatbotul l-a îndemnat să “vină acasă”, iar băiatul s-a împușcat cu arma tatălui său. Un alt proces vizează cazul unui adolescent de 17 ani cu autism, care a fost încurajat de chatbot să își ucidă mama, după ce aceasta i-a restricționat accesul la telefon.
De asemenea, diverse caractere disponibile pe platforma AI îl imită pe Adam Lanza, care a împușcat mortal 20 de copii și șase profesori la o școala primară din Connecticut, în 2012. Unul dintre acești chatboți a vorbit cu peste 27.000 de utilizatori, raportează publicația Futurism.
Character AI a declarat că lucrează pentru a îmbunătăți filtrele de siguranță și pentru a implementa un model separat pentru adolescenți. Cu toate acestea, criticii susțin că platforma reprezintă un “experiment uriaș” asupra copiilor și că ar trebui închisă până la implementarea unor măsuri de protecție mai stricte pentru cei peste 20 de milioane de utilizatori ai săi.
Sursă: The Telegraph
Foto: Mohamed Ahmed Soliman | Dreamstime
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.