Serviciul video Reels de la Instagram este conceput pentru a le arăta utilizatorilor fluxuri de videoclipuri scurte pe teme pe care algoritmul decide că îi pot interesa, cum ar fi sportul, mâncarea, moda sau umorul. Meta a creat Reels pentru a concura cu TikTok, iar ambele produse oferă utilizatorilor o succesiune neîntreruptă de videoclipuri postate de alte persoane, platforma inserând reclame printre acestea. Algoritmii ambelor companii arată unui utilizator videoclipurile pe care platformele le calculează ca fiind cele mai potrivite pentru a menține acel utilizator pe aplicație, pe baza comportamentului său de vizionare.
Totuși, aplicația de socializare deținută de Meta Platforms face același lucru pentru utilizatorii despre care algoritmul său decide că ar putea avea un interes obscen pentru copii, au arătat testele efectuate de The Wall Street Journal. Jurnaliștii americani au încercat să determine ce ar recomanda algoritmul Reels al Instagram conturilor de testare configurate pentru a urmări doar tineri gimnaști, marjorete și alți influenceri adolescenți și preadolescenți, activi pe platformă.
Sistemul Instagram a servit doze stridente de conținut obscen pentru acele conturi de test, inclusiv imagini cu copii în situații delicate, precum și videoclipuri cu conținut sexual evident cu adulți, dar și reclame pentru unele dintre cele mai mari mărci din SUA, precum Pizza Hut, Disney, Tinder, Walmart și chiar și pentru Wall Street Journal. WSJ a înființat conturile de test după ce a observat că miile de urmăritori ai conturilor acestor tineri includ adesea un număr mare de bărbați adulți. Astfel, jurnaliștii americani au testat și ce ar recomanda algoritmul dacă i-ar urmări și pe unii dintre acei bărbați. În acest mod, platforma a afișat un amestec de reclame agresive cu clipuri erotice.
Experții au declarat că testele WSJ au arătat că, deși gimnastica ar putea părea un subiect inofensiv, algoritmul Meta începe să-i redirecționeze pe cei ce urmăresc acest sport către videoclipuri cu fete minore sau chiar cu conținut de natură sexuală, printre care Instagram a inserat și reclame la Disneyland. Un oficial al Disney a declarat că a presat Meta în repetate rânduri în trecut să îmbunătățească funcțiile de siguranță pe platformă. O purtătoare de cuvânt a companiei a declarat, separat, că de când Journal și-a prezentat concluziile către Disney, compania a lucrat la rezolvarea problemei la “cele mai înalte niveluri de la Meta”.
Actuali și foști angajați ai Meta au declarat pentru Wall Street Journal că tendința algoritmilor Instagram de a agrega conținut cu caracter sexual cu copii de pe întreaga platformă era cunoscută la nivel intern ca fiind o problemă. Odată ce Instagram cataloghează un utilizator ca fiind interesat de un anumit subiect, au spus aceștia, sistemele sale de recomandare sunt antrenate să îi împingă mai mult conținut similar.
Documentele companiei examinate de WSJ arată că angajații companiei ce se ocupă de siguranță au interdicție generală de a face modificări ale platformei care ar putea reduce numărul de utilizatori activi zilnici. Chiar înainte de lansarea Reels, în 2020, angajații Meta au înțeles că produsul prezenta probleme de siguranță.
Sistemele automate analizează mai greu conținutul video decât textul sau imaginile statice. O altă dificultate apare din cauza modului în care funcționează Reels: În loc să afișeze conținut partajat de prietenii utilizatorilor, așa cum fac adesea alte părți ale Instagram și Facebook, Reels promovează videoclipuri din surse pe care aceștia nu le urmăresc.
Personalul de siguranță al Meta a semnalat încă de la lansare riscul ca Reels să reunească videoclipuri cu copii și conținut nepotrivit, potrivit unor foști angajați. Fostul șef al politicii de tineret de la Meta, a descris astfel recomandarea analizei de siguranță: “Fie ne îmbunătățim capacitățile de detectare a conținutului, fie nu recomandăm niciun videoclip cu copii”.
La acea vreme, TikTok se dezvolta rapid, atrăgând atenția tinerilor utilizatori ai Instagram și a agenților de publicitate care îi vizau. Meta nu a adoptat niciuna dintre recomandările analizei de siguranță la acel moment și a lansat produsul înainte de a repara problemele. Un reprezentant al Meta contestă că în cadrul companiei s-ar fi neglijat preocupările legate de siguranța copiilor înainte de lansarea produsului. “Am testat Reels timp de aproape un an înainte de a-l lansa pe scară largă, cu un set robust de controale și măsuri de siguranță”.
Separat, Centrul Canadian pentru Protecția Copilului (CCCP) a ajuns la concluzia că Instagram afișează în mod regulat și videoclipuri cu copii din baza sa de date digitală pentru copii dispăruți și exploatați, inclusiv imagini și videoclipuri confirmate ca fiind materiale sexuale de abuz asupra copiilor. “De nenumărate ori, am văzut cum algoritmii de recomandare îi determină pe utilizatori să descopere și apoi să intre în spirală în interiorul acestor comunități online de exploatare a copiilor”, a declarat directorul CCCP, calificând drept îngrijorător faptul că reclamele de la marile companii subvenționează acest proces.
În cadrul procesului intentat de 33 de procurori americani la sfârșitul lunii octombrie, Meta este acuzată că “și-a proiectat în mod intenționat platformele pentru a crea dependență în rândul copiilor și a permis cu bună știință ca utilizatorii minori să dețină conturi” pe Instagram și Facebook, deși nu aveau vârsta legală în acest sens. Meta este acuzată că a ignorat milioane de plângeri din partea părinților.
Documentele depuse în acest proces descriu mai mulți oficiali Meta care au recunoscut că platformele sale sunt concepute pentru a exploata deficiențele psihologiei tinerilor. O prezentare internă din mai 2020, numită “fundamentele adolescenței”, a evidențiat anumite vulnerabilități ale creierului minorilor care ar putea fi exploatate prin dezvoltarea de produse. Este vorba despre “imaturitatea relativă a creierului adolescenților” și despre tendința adolescenților de a fi conduși de “emoții, intriga noutății și a recompenselor”. Meta susține că plângerea denaturează greșit munca sa din ultimul deceniu pentru a face experiența online sigură pentru adolescenți, menționând că are “zeci de instrumente pentru a-i sprijini pe aceștia și pe părinții lor”.
Surse: WSJ, The Guardian
Foto: Dreamstime/Sedovukr
Echipa Biziday nu a solicitat și nu a acceptat nicio formă de finanțare din fonduri guvernamentale. Spațiile de publicitate sunt limitate, iar reclama neinvazivă.
Dacă îți place ce facem, poți contribui tu pentru susținerea echipei Biziday.