Photo 119260737 © Funtap P | Dreamstime.com
Parlamentul European și statele membre ale UE încearcă miercuri să ajungă la un acord asupra unui text fără echivalent de reglementare a inteligenței artificiale (IA), după luni de negocieri dificile privind modul de abordare a fenomenului ChatGPT, transmite agenția AFP, citată de boursorama.com.
Uniunea Europeană dorește să fie prima din lume care se dotează cu un cadru juridic cuprinzător pentru a limita eventualele derive ale IA, protejând în același timp inovația.
Negociatorii se întâlnesc la Bruxelles începând cu ora 15:00 (14:00 GMT) și se așteaptă ca discuțiile să continue până seara târziu, sau chiar noaptea.
Recomandări Video
Articolul continuă mai jos
Potrivit mai multor surse, un acord rămâne incert, iar în caz de eșec ar putea fi necesară o nouă reuniune în ianuarie.
Procesul legislativ, lansat în aprilie 2021 cu o propunere din partea Comisiei, a fost zguduit la sfârșitul anului trecut de apariția ChatGPT, generatorul de texte al companiei californiene OpenAI, capabil să scrie eseuri, poezii sau traduceri în câteva secunde.
Acesta a fost urmat rapid de concurenții Bard (Google) și Llama (Meta). Aceste aplicații, alături de generatoare de imagini precum Dall-E (dezvoltat tot de OpenAI) și Midjourney, au dezvăluit publicului larg potențialul lor imens. Dar ele comportă și anumite riscuri.
Răspândirea imaginilor false, care par uneori mai adevărate decât cele reale, pe rețelele de socializare, de exemplu, a alertat oamenii asupra pericolului manipulării opiniei.
Fenomenul inteligenței artificiale generative a fost inclus în negocierile actuale la cererea deputaților europeni, care insistă asupra unei abordări etice și a unei supravegheri stricte.
Dar este dificil de ajuns la un compromis cu statele membre, care se tem că o reglementare excesivă ar putea distruge din fașă campionii lor în devenire, precum Aleph Alpha din Germania și Mistal AI din Franța, făcând costurile de dezvoltare prohibitive.
Mai multă transparență
“Germania, Franța și Italia nu doresc nicio reglementare specifică privind IA generativă și blochează includerea acesteia în legislație”, rezumă eurodeputatul conservator Axel Voss, care dorește să impună o mai mare “transparență” asupra algoritmilor și a bazelor de date gigantice care stau la baza acestor sisteme.
Textul discutat miercuri include reguli pentru a asigura calitatea datelor utilizate în dezvoltarea algoritmilor și pentru a verifica dacă aceștia nu încalcă legislația privind drepturile de autor.
Aceste constrângeri ar urma să fie înăsprite doar pentru sistemele care depășesc anumite praguri în ceea ce privește puterea de calcul și numărul de companii utilizatoare.
Acest lucru reprezintă un motiv de îngrijorare pentru grupurile de lobby din domeniul tehnologiei (BSA, CCIA), care consideră că tratamentul specific impus IA generativă pune sub semnul întrebării principiile de “neutralitate tehnologică” și de abordare “bazată pe riscuri” care au inspirat propunerea inițială a Comisiei.
Aceste principii sunt cele ale reglementărilor existente în materie de siguranță a produselor, care impun controale ce țin în primul rând de responsabilitatea întreprinderilor.
În afară de capitolele referitoare la IA generativă, nucleul proiectului pentru alte aplicații constă într-o listă de reguli impuse doar sistemelor considerate “cu risc ridicat”.
Acestea ar fi aplicații utilizate în domenii sensibile, cum ar fi infrastructurile critice, educația, resursele umane, aplicarea legii sau gestionarea migrației. Dar și în acest caz, Parlamentul și statele membre sunt în dezacord în ceea ce privește definirea domeniului de aplicare.
Sistemele ar urma să fie supuse unei serii de obligații, cum ar fi asigurarea controlului uman al mașinii, întocmirea unei documentații tehnice și instituirea unui sistem de gestionare a riscurilor.
Legislația prevede o supraveghere specială a sistemelor de inteligență artificială care interacționează cu oamenii. Acestea vor fi obligate să informeze utilizatorii că interacționează cu o mașină, iar aplicațiile care generează imagini vor fi obligate să specifice faptul că acestea au fost create artificial.
Interdicțiile vor fi rare. Acestea vor viza aplicații care contravin valorilor europene, cum ar fi sistemele de evaluare a cetățenilor sau sistemele de supraveghere în masă utilizate în China.
Deputații europeni vor să adauge o interdicție asupra sistemelor de recunoaștere a emoțiilor. De asemenea, ei doresc să elimine derogările care autorizează identificarea biometrică la distanță a persoanelor în locuri publice de către agențiile de aplicare a legii, un alt punct de fricțiune cu statele membre.