Sursa foto: pexels.com
Utilizarea inteligenței artificiale va fi atent monitorizată în Uniunea Europeană în baza EU AI Act, impactul acestei măsuri asupra organizațiilor va fi similar cu cel al protecției datelor (GDPR). Inteligența artificială a devenit o tehnologie cheie pentru transformarea digitală în organizațiile private și publice, despre care se anticipează că până în anul 2030 va fi folosită direct sau indirect în majoritatea sectoarelor. Utilizarea inteligenței artificiale generative (GenAI) are potențialul de a genera o creștere economică suplimentară anuală între 0,4% și 0,7% în Europa, până în anul 2030, dacă organizațiile sunt receptive la inovare, dezvoltă o strategie și mai ales dacă sunt dispuse să facă investițiile necesare, inclusiv pentru prevenirea riscurilor asociate. Astfel, s-ar atinge până la 90% din potențialul de majorare a productivității totale datorate GenAI, potrivit unei analize realizată de departamentul de strategie al rețelei globale PwC.
Pe lângă relevanța economică a utilizării GenAI, încrederea în performanța, securitatea, fiabilitatea și corectitudinea AI sunt esențiale pentru utilizatori, clienți și factori de decizie.
UE ia măsuri cu privire la utilizarea AI-ului
Date fiind schimbările semnificative pe care le-a generat inteligența artificială, Uniunea Europeană a adoptat un regulament care vizează utilizarea sistemelor de inteligență artificială, sub denumirea de EU AI Act. Acesta este direct aplicabil în statele membre și impactează atât organizațiile private, cât și pe cele publice, indiferent dacă acestea sunt producători, distribuitori sau utilizatori de sisteme AI. Alte țări întreprind de asemenea demersuri de reglementare.
Astfel, în prezent, SUA se bazează pe legile federale existente pentru a reglementa AI, dar își propune să introducă o legislație specifică și o autoritate federală de reglementare.
De asemenea, Regatul Unit a elaborat „Cartea albă privind reglementarea AI” care cuprinde un cadru bazat pe principii pe care autoritățile de reglementare ale diferitelor sectoare să le interpreteze și să le aplice pentru dezvoltarea și utilizarea AI-ului.
Regulamentul european impune obligații în funcție de riscurile potențiale ale diferitelor tipuri de sisteme AI. Se așteaptă ca acest regulament să aibă un impact similar cu cel privind protecția datelor cu caracter personal (GDPR). Organizațiile trebuie să se conformeze legal la noile cerințe. În caz contrar, se expun mai multor riscuri legale, care includ potențiale amenzi.
În plus, încălcarea EU AI Act ar putea duce și la o analiză privind posibile încălcări ale altor prevederi legale aplicabile, precum GDPR sau alte reglementări specifice fiecărei industrii.
Pe cine afectează EU AI Act?
Producătorii și distribuitorii de sisteme de inteligență artificială reglementate în Uniunea Europeană sunt vizați de cea mai mare parte a cerințelor. Aceștia sunt furnizori care pun pe piață sau implementează sisteme de AI, indiferent dacă sunt stabiliți în UE sau într-o țară terță, precum și distribuitori de sisteme de AI reglementate care sunt stabiliți în UE.
Regulamentul UE împarte sistemele de AI în mai multe categorii bazate pe caracteristicile lor de risc, care sunt fie permise fără restricții, fie permise în anumite condiții, fie interzise. Această abordare are la bază o evaluare a riscurilor preconizate pe care le poate prezenta un anumit sistem de AI pentru sănătatea, siguranța sau drepturile fundamentale ale cetățenilor UE.
Sistemele de AI cu riscuri inacceptabile sunt interzise per se
Sistemele de AI cu risc ridicat sunt în centrul regulamentului. Acestea includ, de exemplu, sisteme pentru manipularea subliminală a oamenilor sau anumite sisteme biometrice de recunoaștere în timp real în spațiile publice. Acestea sunt permise numai în situații excepționale, cu respectarea unor cerințe stricte de documentare, monitorizare și calitate.
UE a stabilit termene de conformare pentru diferitele clasificări ale riscurilor. Organizațiile trebuie să clasifice și să evalueze în mod proactiv riscurile sistemelor lor de inteligență artificială pentru a evita sancțiunile și daunele aduse reputației.
De exemplu, la șase luni de la intrarea în vigoare a legii, o companie care implementează un sistem de inteligență artificială considerat interzis, cum ar fi unul care detectează emoții la locul de muncă, riscă amenzi de până la 35 milioane euro sau 7% din cifra sa de afaceri anuală totală la nivel mondial din anul financiar precedent, luându-se în considerare valoarea cea mai mare. Un astfel de sistem trebuie să fie scos de pe piața europeană sau reproiectat astfel încât să fie eliminate criteriile interzise definite de Legea UE privind inteligența artificială.
Măsurile pe care ar trebui să le ia companiile pentru ca AI să nu le afecteze activitatea:
- Evaluarea impactului AI asupra cadrelor de conformitate existente.
- Clasificarea sistemelor AI și elaborarea unui inventar în funcție de clasificările de risc și menținerea unui inventar dinamic bazat pe taxonomia UE.
- Identificarea sistemelor AI interzise și luarea de măsuri imediate.
- Revizuirea modelului de guvernanță pentru alinierea la noile cerințe ale regulamentului.
- Dezvoltarea și punerea în aplicare a unor proceduri de gestionare, testare și validare a riscurilor.
- Guvernanța datelor: asigurarea unor practici solide de gestionare a datelor.
- Asigurarea unor controale adecvate, în special pentru sistemele avansate de AI.
