Parlamentul European aprobă interzicerea aplicațiilor AI care generează imagini intime fără consimțământ

Parlamentul European a aprobat modificări ale Regulamentului privind Inteligența Artificială (AI Act), care prevăd interzicerea aplicațiilor bazate pe inteligență artificială capabile să genereze imagini, videoclipuri sau înregistrări audio cu caracter sexual fără consimțământul persoanelor vizate.

Noile prevederi fac parte din pachetul legislativ „Digital Omnibus”, adoptat cu 423 de voturi pentru, 57 împotrivă și 174 de abțineri.

Regulamentul introduce o interdicție explicită pentru sistemele AI care creează materiale de abuz sexual asupra copiilor sau care generează conținut sexual explicit folosind imaginea unei persoane identificabile fără acordul acesteia. Furnizorii unor astfel de sisteme nu vor putea comercializa aceste produse în Uniunea Europeană, cu excepția cazurilor în care sunt implementate garanții tehnice eficiente care să împiedice utilizarea lor în scopuri abuzive.

Totodată, companiile vor avea termen până la 2 decembrie 2026 pentru a-și adapta sistemele la noile cerințe.

Parlamentul a decis și amânarea aplicării unor obligații prevăzute de AI Act. Cerințele pentru sistemele de inteligență artificială cu risc ridicat vor intra în vigoare de la 2 decembrie 2027 pentru sistemele autonome și de la 2 august 2028 pentru sistemele integrate în produse reglementate de legislația europeană privind siguranța.

De asemenea, obligația de etichetare a conținutului generat de inteligența artificială a fost amânată până la 2 decembrie 2026. După această dată, materialele generate de AI vor trebui marcate într-un format care poate fi citit automat, pentru a crește transparența.

Modificările aprobate simplifică și cerințele pentru companiile care dezvoltă produse industriale și echipamente care utilizează inteligență artificială, eliminând suprapunerile dintre regulile privind AI și cele privind siguranța produselor. În plus, întreprinderile mici și companiile de dimensiune medie vor beneficia de unele excepții deja aplicabile IMM-urilor.

“Facem o pauză în aplicarea AI Act și reducem birocrația. Europa trebuie să devină un continent al inteligenței artificiale. În același timp, interzicem sistemele AI care generează materiale de abuz sexual asupra copiilor”, a declarat Arba Kokalari, raportor al Parlamentului European.

“Am obținut interzicerea completă a aplicațiilor de tip «nudifier». Acestea afectează persoane reale, în special femei, având scopul de a le umili, degrada și obiectifica. Sunt mândru că Parlamentul European a susținut această interdicție, care va intra în vigoare înainte de sfârșitul acestui an”, a precizat Michael McNamara.

Pentru a intra în vigoare, legislația trebuie să primească și aprobarea formală a Consiliului Uniunii Europene.