"Tehnologiile de inteligență artificială pot avea efecte negative și chiar catastrofale dacă sunt utilizate fără a ține cont suficient de modul în care acestea afectează drepturile omului", a declarat Michelle Bachelet, Înaltul comisar ONU pentru Drepturile Omului. Bachelet a lansat un apel pentru realizarea unei evaluări a riscurilor prezentate de diferite sisteme bazate pe inteligența artificială pentru dreptul la viață privată sau pentru libertatea de circulație și de expresie, și apoi pentru interzicerea sau reglementarea atentă a celor care prezintă cele mai mari pericole.

Dar până când aceste evaluări pot fi realizate, "statele trebuie să impună moratorii asupra tehnologiei care prezintă un potențial mare de risc", a subliniat fostul președinte chilian, în cadrul prezentării unui nou raport dedicat acestui subiect. Responsabila ONU a invocat exemplul tehnologiilor care permit luarea deciziilor în mod automat sau stabilirea de profiluri. "Sisteme AI sunt utilizate pentru a determina cine poate beneficia de servicii publice, pentru a decide cine are șansa de a fi recrutat pentru un loc de muncă, și, desigur, pot influența informațiile pe care oamenii le pot vedea și le pot împărtăși online", a subliniat ea, potrivit Agerpres.

Acest raport, care a fost solicitat de Consiliul pentru Drepturile Omului - cea mai înaltă instanță a ONU în acest domeniu - a analizat modul în care aceste tehnologii au fost adesea puse în aplicare fără ca modul lor de funcționare și impactul lor să fi fost evaluate în mod corespunzător.

Disfuncțiile sistemelor AI îi pot împiedica pe oameni să aibă acces la ajutoare sociale, să găsească un loc de muncă, sau mai mult decât atât, pot duce la arestarea unor persoane nevinovate pe baza unor sisteme de recunoaștere facială antrenate necorespunzător și devenite incapabile să recunoască în mod corect persoanele cu trăsături fizice specific africane, spre exemplu.

"Riscul de discriminare legat de deciziile bazate pe inteligența artificială - decizii care pot schimba, stigmatiza sau distruge o viață de om - este foarte real", a subliniat Michelle Bachelet. Raportul mai scoate în evidență faptul că inteligența artificială este antrenată cu ajutorul unor baze de date enorme, a căror alcătuire se face de multe ori în moduri netransparente. Aceste baze de date pot fi la rândul lor prost făcute, depășite și pot contribui la producerea unor încălcări ale drepturilor omului.

Raportul evidențiază în special utilizarea din ce în ce mai frecventă a sistemelor bazate pe AI de către forțele de ordine, inclusiv a metodelor predictive. Atunci când sistemele AI folosesc baze de date părtinitoare, acest lucru se reflectă în predicții. Recunoașterea facială în timp real și de la distanță este, de asemenea, din ce în ce mai utilizată în lumea întreagă, lucru care poate conduce la localizarea permanentă a oamenilor.

"Nu ne putem permite să sărim în tren din mers în ceea ce privește sistemele AI și să permitem ca acestea să fie utilizate fără control sau cu foarte puțin control și să reparăm ulterior consecințele pe care le au asupra drepturilor omului", a insistat Înaltul comisar, chiar dacă a recunoscut că "sistemele AI au o putere indiscutabilă de a ajuta oamenii". "Trebuie să acționăm pentru a impune sistemelor AI garanții bazate pe drepturile omului pentru binele întregii omeniri", a mai subliniat ea.