Photo 171270756 | Artificial Intelligence © BiancoBlue | Dreamstime.com
Membrii Parlamentului European au ajuns la un acord politic cu Consiliul asupra unui proiect de lege care reglementează utilizarea inteligenței artificiale, inclusiv utilizarea de către guverne a inteligenței artificiale în supravegherea biometrică și modul de reglementare a sistemelor de inteligență artificială, cum ar fi ChatGPT. Textul convenit va trebui acum să fie adoptat în mod oficial atât de Parlament, cât și de Consiliu pentru a deveni legislație UE. Nerespectarea normelor poate duce la amenzi cuprinse între 35 de milioane de euro sau 7 % din cifra de afaceri globală și 7,5 milioane de euro sau 1,5 % din cifra de afaceri, în funcție de încălcare și de mărimea întreprinderii.
Vineri, negociatorii Parlamentului European și ai Consiliului au ajuns la un acord provizoriu asupra Legii privind inteligența artificială, anunță oficialii europeni. Acest regulament are ca scop să asigure că drepturile fundamentale, democrația, statul de drept și dezvoltarea mediului “sunt protejate de IA cu risc ridicat”, stimulând în același timp inovarea și făcând din Europa un lider în acest domeniu. Normele stabilesc obligații pentru IA în funcție de riscurile potențiale și de nivelul de impact al acesteia.
Aplicații interzise
Recunoscând potențiala amenințare la adresa drepturilor cetățenilor și a democrației reprezentată de anumite aplicații ale IA, colegiuitorii au convenit să interzică:
Recomandări Video
Articolul continuă mai jos
- sistemele de clasificare biometrică care utilizează caracteristici sensibile (de exemplu, convingerile politice, religioase, filozofice, orientarea sexuală, rasa);
- extragerea fără scop precis a imaginilor faciale de pe internet sau din înregistrările CCTV pentru a crea baze de date de recunoaștere facială;
- recunoașterea emoțiilor la locul de muncă și în instituțiile de învățământ;
- Punctarea pe baza comportamentului social sau a caracteristicilor personale;
sisteme de inteligență artificială care manipulează comportamentul uman pentru a eluda liberul arbitru al acestuia;
IA utilizată pentru a exploata vulnerabilitățile oamenilor (din cauza vârstei, a handicapului, a situației sociale sau economice a acestora).
Scutiri pentru aplicarea legii
Negociatorii au convenit asupra unei serii de garanții și de excepții restrânse pentru utilizarea sistemelor de identificare biometrică (RBI) în spații accesibile publicului în scopuri de aplicare a legii, sub rezerva unei autorizații judiciare prealabile și pentru liste strict definite de infracțiuni. RBI “post-remote” ar fi utilizate strict în cadrul căutării specifice a unei persoane condamnate sau suspectate de comiterea unei infracțiuni grave.
“RBI “în timp real” ar respecta condiții stricte, iar utilizarea sa ar fi limitată în timp și în locație, în scopul:
- căutării specifice ale victimelor (răpire, trafic de persoane, exploatare sexuală),
prevenirea unei amenințări teroriste specifice și actuale, sau - localizarea sau identificarea unei persoane suspectate de comiterea uneia dintre infracțiunile specifice menționate în regulament (de exemplu, terorism, trafic de persoane, exploatare sexuală, crimă, răpire, viol, jaf armat, participare la o organizație criminală, infracțiuni împotriva mediului).
Obligații pentru sistemele cu risc ridicat
Pentru sistemele de inteligență artificială clasificate ca fiind de risc ridicat (din cauza potențialului lor semnificativ de afectare a sănătății, siguranței, drepturilor fundamentale, mediului, democrației și statului de drept), au fost convenite obligații clare. Deputații europeni au reușit să includă cu succes, printre alte cerințe, o evaluare obligatorie a impactului asupra drepturilor fundamentale, aplicabilă și în sectoarele bancar și de asigurări. Sistemele de inteligență artificială utilizate pentru a influența rezultatul alegerilor și comportamentul alegătorilor sunt, de asemenea, clasificate ca fiind de risc ridicat. Cetățenii vor avea dreptul de a lansa plângeri cu privire la sistemele de inteligență artificială și de a primi explicații cu privire la deciziile bazate pe sisteme de inteligență artificială cu risc ridicat care au impact asupra drepturilor lor.
Măsuri de protecție pentru sistemele generale de inteligență artificială
Pentru a ține cont de gama largă de sarcini pe care le pot îndeplini sistemele de inteligență artificială și de extinderea rapidă a capacităților sale, s-a convenit că sistemele de inteligență artificială de uz general (GPAI), precum și modelele GPAI pe care se bazează, vor trebui să respecte cerințele de transparență, așa cum a propus inițial Parlamentul. Acestea includ întocmirea unei documentații tehnice, respectarea legislației UE privind drepturile de autor și diseminarea unor rezumate detaliate despre conținutul utilizat pentru instruire.
Pentru modelele GPAI cu impact ridicat și risc sistemic, negociatorii Parlamentului au reușit să obțină obligații mai stricte. Dacă aceste modele îndeplinesc anumite criterii, ele vor trebui să efectueze evaluări ale modelelor, să evalueze și să atenueze riscurile sistemice, să efectueze teste de adversitate, să raporteze Comisiei cu privire la incidentele grave, să asigure securitatea cibernetică și să raporteze cu privire la eficiența lor energetică. Deputații au insistat, de asemenea, asupra faptului că, până la publicarea standardelor armonizate ale UE, GPAI cu risc sistemic se pot baza pe coduri de practică pentru a se conforma regulamentului.
Măsuri de sprijinire a inovării și a IMM-urilor
Deputații europeni au dorit să se asigure că întreprinderile, în special IMM-urile, pot dezvolta soluții de inteligență artificială fără o presiune nejustificată din partea giganților industriali care controlează lanțul valoric. În acest scop, acordul promovează așa-numitele sandbox-uri de reglementare și testele în lumea reală, stabilite de autoritățile naționale pentru a dezvolta și antrena IA inovatoare înainte de introducerea pe piață.
Sancțiuni și intrarea în vigoare
Nerespectarea normelor poate duce la amenzi cuprinse între 35 de milioane de euro sau 7 % din cifra de afaceri globală și 7,5 milioane de euro sau 1,5 % din cifra de afaceri, în funcție de încălcare și de mărimea întreprinderii.
În urma acestui acord, coraportorul Brando Benifei (S&D, Italia) a declarat că procesul a fost unul “lung și intens, dar efortul a meritat”. “Datorită rezistenței Parlamentului European, prima legislație orizontală din lume privind inteligența artificială va respecta promisiunea europeană – asigurând că drepturile și libertățile se află în centrul dezvoltării acestei tehnologii revoluționare. Implementarea corectă va fi esențială – Parlamentul va continua să urmărească îndeaproape, pentru a asigura sprijinul pentru noile idei de afaceri cu sandbox-uri și reguli eficiente pentru cele mai puternice modele”, a spus Benifei.
Co-raportorul Dragoș Tudorache (Renew, România) a subliniat că UE este prima din lume care a instituit “o reglementare solidă privind IA, orientând dezvoltarea și evoluția acesteia într-o direcție centrată pe om”.
“Legea privind IA stabilește norme pentru modelele mari și puternice de IA, asigurându-se că acestea nu prezintă riscuri sistemice pentru Uniune și oferă garanții puternice pentru cetățenii noștri și pentru democrațiile noastre împotriva oricăror abuzuri ale tehnologiei din partea autorităților publice. Ea protejează IMM-urile noastre, ne consolidează capacitatea de a inova și de a fi lideri în domeniul IA și protejează sectoarele vulnerabile ale economiei noastre. Uniunea Europeană a adus contribuții impresionante în lume; Legea privind IA este încă una care va avea un impact semnificativ asupra viitorului nostru digital”, a spus Dragoș Tudorache.
Etapele următoare
Textul convenit va trebui acum să fie adoptat în mod oficial atât de Parlament, cât și de Consiliu pentru a deveni legislație UE. Comisiile pentru piața internă și pentru libertăți civile ale Parlamentului European vor vota asupra acordului în cadrul unei reuniuni viitoare.