Photo 171270756 | Artificial Intelligence © BiancoBlue | Dreamstime.com
După 22 de ore de negocieri intense, factorii de decizie politică din UE au ajuns la un acord provizoriu cu privire la normele pentru cele mai puternice modele de inteligență artificială, însă dezacordul puternic în ceea ce privește capitolul privind aplicarea legii i-a forțat pe oficialii epuizați să ceară o pauză, scrie Euroactiv.com.
Legea privind inteligența artificială este un proiect de lege de referință pentru reglementarea inteligenței artificiale pe baza capacității sale de a provoca daune. Dosarul se află în ultima etapă a procesului legislativ, în timp ce Comisia, Consiliul și Parlamentul UE se reunesc în așa-numitele triloguri pentru a pune la punct dispozițiile finale.
Ultimul trilog a început miercuri (6 decembrie) și a durat aproape neîntrerupt o zi întreagă, până când a fost convocată o pauză pentru vineri dimineața. În această primă parte a negocierilor, s-a ajuns la un acord privind reglementarea modelelor puternice de inteligență artificială.
Recomandări Video
Articolul continuă mai jos
Domeniul de aplicare
Definiția AI din regulament preia toate elementele principale ale definiției OCDE, deși nu o repetă cuvânt cu cuvânt.
Ca parte a acordului provizoriu, software-ul liber și cu sursă deschisă va fi exclus din domeniul de aplicare a regulamentului, cu excepția cazului în care este vorba de un sistem cu risc ridicat, de aplicații interzise sau de o soluție de inteligență artificială care riscă să provoace manipulări.
Pe masa negociatorilor, după pauză, se va afla chestiunea scutirii privind securitatea națională, întrucât țările UE, în frunte cu Franța, au cerut o scutire largă pentru orice sistem de inteligență artificială utilizat în scopuri militare sau de apărare, inclusiv pentru contractanții externi.
Un alt aspect care trebuie discutat este dacă regulamentul se va aplica sistemelor de inteligență artificială care se aflau pe piață înainte ca acesta să înceapă să se aplice, în cazul în care acestea suferă o modificare semnificativă.
În cadrul Comisiei va fi înființat un Birou pentru AI. Instituțiile UE urmează să facă o declarație comună conform căreia Biroul pentru AI va avea o linie bugetară dedicată.
Sistemele de IA vor fi supravegheate de autoritățile naționale competente, care vor fi reunite în cadrul Consiliului european pentru inteligență artificială pentru a asigura aplicarea consecventă a legii.
Un forum consultativ va colecta feedbackul părților interesate, inclusiv al societății civile. A fost introdus un grup științific de experți independenți pentru a oferi consultanță cu privire la aplicarea regulamentului, pentru a semnala potențialele riscuri sistemice și pentru a informa clasificarea modelelor de IA cu riscuri sistemice.
Practici interzise
Legea privind AI include o listă de aplicații interzise, deoarece se consideră că acestea prezintă un risc inacceptabil. Interdicțiile confirmate până în prezent se referă la tehnici de manipulare, sisteme care exploatează vulnerabilități, scorarea socială și răzuirea fără discernământ a imaginilor faciale.
Cu toate acestea, Parlamentul European a propus o listă mult mai lungă de aplicații interzise și se confruntă cu o respingere puternică din partea Consiliului. Potrivit mai multor surse familiare cu această chestiune, deputații europeni au fost presați să accepte un pachet de măsuri, văzut de Euractiv, care este extrem de apropiat de poziția Consiliului.
Parlamentarii au fost împărțiți în această chestiune, Partidul Popular European de centru-dreapta, coraportorul Dragoș Tudorache, și președintele grupului parlamentar social-democrat, Iratxe García, făcând presiuni pentru acceptarea acordului.
Textul Consiliului dorește să interzică sistemele de categorisire biometrică bazate pe trăsături personale sensibile precum rasa, opiniile politice și convingerile religioase “cu excepția cazului în care aceste caracteristici au o legătură directă cu o infracțiune sau o amenințare specifică”.
Exemplele date au fost de infracțiuni motivate religios sau politic. Cu toate acestea, președinția a insistat, de asemenea, asupra menținerii profilării rasiale.
În timp ce legislatorii de centru-stânga doresc să interzică poliția predictivă, propunerea Consiliului limitează interdicția la investigațiile bazate exclusiv pe predicția sistemului și nu la cazurile cu suspiciuni rezonabile de implicare în activități infracționale.
Parlamentul a introdus, de asemenea, o interdicție pentru software-ul de recunoaștere a emoțiilor la locul de muncă, în educație, în aplicarea legii și în controlul migrației. Consiliul este dispus să o accepte doar în primele două domenii, cu excepția unor motive medicale sau de siguranță.
Un alt subiect controversat este utilizarea identificării biometrice la distanță (RBI). Deputații europeni au convenit să renunțe la o interdicție completă în favoarea unor excepții restrânse legate de infracțiuni grave. Consiliul face presiuni pentru a oferi agențiilor de aplicare a legii mai mult spațiu de manevră și pentru a face din utilizarea ex-post o aplicație cu risc ridicat.
O altă problemă deschisă se referă la faptul dacă aceste interdicții ar trebui să se aplice doar sistemelor utilizate în cadrul Uniunii sau să împiedice, de asemenea, companiile cu sediul în UE să vândă aceste aplicații interzise în străinătate.