Banca Angliei atrage atenția că folosirea AI în cadrul marilor companii poate duce la discriminarea clienților și a angajaților, deoarece unii chatboți manifestă comportament rasist și sexist. 

Un raport al Băncii Angliei afirmă că inteligența artificială generativă ar putea fi capabilă să detecteze “prejudecăți în seturile de date și, în general, din societate”, care ar putea fi ulterior folosite pentru a discrimina clienții sau angajații companiilor. Kathleen Blake, analist al Băncii Angliei și autoarea raportului, a explicat faptul că aceste tendințe ale AI ar putea crea probleme pentru bănci, asiguratori și pentru sistemul bancar în ansamblu.

Kathleen Blake a oferit exemplul unor erori a inteligenței artificiale folosite de Apple și Goldman Sachs la luarea deciziilor privind acordarea de carduri de credit. Concret, algoritmul folosit de cele două companii a impus o limită de credit mai mică în cazul femeilor, față de bărbați.

Problema, depistată în urmă cu doi ani, a fost analizată de Departamentul de Servicii Financiare din statul New York, care a constatat că practica nu a fost folosită în mod deliberat, dar a atras atenția asupra “deficiențelor în ceea ce privește transparența și prestarea de servicii pentru clienți”.

O problemă a fost descoperită și la compania Amazon, care a folosit inteligența artificială în procesul de angajare. “Candidații de sex feminin au primit un punctaj negativ, deoarece algoritmul a fost antrenat pe baza CV-urilor depuse pe o perioadă de 10 ani, care a reflectat o dominație a angajaților de sex masculin în industrie”, a explicat autoarea raportului.

Aceasta a mai afirmat că potențiala tendință spre discriminare a chatboților poate “exacerba riscurile la adresa stabilității financiare prin subminarea încrederii în sistem”. Astfel, folosirea unui soft de inteligență artificială “părtinitor sau discriminatoriu” ar putea afecta negativ reputația firmelor și, totodată, ar atrage anchete din partea autorităților de reglementare.

Sursa: The Telegraph