Acest regulament european „va conduce la dezvoltarea unei inteligențe artificiale (IA) în care europenii pot avea încredere și va oferi sprijin IMM-urilor și start-up-urilor europene pentru a aduce soluții inovatoare de inteligență artificială pe piață”, a afirmat pe rețeaua de socializare X președinta Comisiei Europene, Ursula von der Leyen.

Legea permite sau interzice utilizarea inteligenței artificiale în funcție de riscul pe care îl generează pentru oameni și identifică sisteme cu risc ridicat care pot fi folosite doar dacă respectă drepturile fundamentale.

Mai exact, ea face distincția între sistemele IA care prezintă un „risc inacceptabil” la adresa drepturilor fundamentale și care vor fi interzise, sisteme cu „risc ridicat”, care nu vor fi interzise, dar vor fi supuse unor cerințe stricte, sisteme cu riscuri de transparență, cum ar fi „chatbots”, și sisteme de risc „minim”, care formează majoritatea sistemelor de IA și nu vor fi supuse reglementărilor.

În virtutea acestei clasificări, legea interzice toate sistemele de categorizare biometrică după convingeri politice, religioase, filosofice sau după rasă și orientare sexuală, precum și pe cele care evaluează oamenii în funcție de comportamentul și caracteristicile lor personale și cele capabile să manipuleze comportamentul uman.

Vor fi de asemenea interzise sistemele menite să extindă ori să creeze baze de date faciale prin captarea nediscriminatorie de date pe internet sau înregistrări audiovizuale, iar sistemele care pot recunoaște emoțiile vor fi interzise la locurile de muncă și în școli.

În general, legea inteligenței artificiale interzice supravegherea în masă în spațiile publice, dar permite organelor de drept să utilizeze camere biometrice de identificare în anumite cazuri cu autorizație judiciară prealabilă, lucru care a fost unul dintre cele mai dificile puncte ale negocierilor dintre Parlamentul European și Consiliul UE (statele membre) în stabilirea formei finale a regulamentului.

Astfel, aceste sisteme vor putea fi folosite pentru a preveni o amenințare teroristă iminentă, pentru a localiza sau identifica o persoană care a comis infracțiuni de terorism, trafic de persoane, exploatare sexuală sau o infracțiune împotriva mediului, de exemplu, precum și pentru a căuta victime ale acestor delicte.

De asemenea, regulamentul identifică sisteme cu risc ridicat care pot fi comercializate numai dacă dezvoltatorii lor garantează că respectă drepturile fundamentale, de pildă cele care pot influența rezultatul alegerilor sau cele utilizate de instituțiile financiare pentru a evalua solvabilitatea și ratingul de credit al clienților.

Pe de altă parte, regulamentul stabilește o serie de obligații pentru sistemele de inteligență artificială de uz general pe care se bazează programe precum ChatGPT, al companiei OpenAI, sau Bard, al companiei Google.

Concret, aceste programe vor trebui să precizeze dacă un text, un cântec sau o fotografie au fost generate prin inteligență artificială și să garanteze că datele folosite de sisteme respectă drepturile de autor.

Companiile care nu se conformează prevederilor regulamentului riscă amenzi de până la 7% din cifra lor anuală de afaceri globală atunci când încălcările sunt legate de aplicații interzise, de până la 3% atunci când sunt legate de alte obligații și de până la 1,5% din cifra de afaceri pentru furnizarea de informații incorecte.

Statele UE au termen până la 2 august 2025 să desemneze autoritatea care se va ocupa de aplicarea legislației la nivel național, în timp ce la nivel european sarcina va reveni unui nou Birou IA din cadrul Comisiei Europene.

Cele mai multe prevederi ale regulamentului se vor aplica începând cu 2 august 2026, cu excepția interzicerii sistemelor de risc inacceptabile, care va intra în vigoare în termen de șase luni, și a regulilor pentru IA de uz general, care vor intra în vigoare într-un an.