OpenAI, un startup susținut de Microsoft, s-a trezit luni ținta unei plângeri privind confidențialitatea din partea grupului NOYB pentru că nu ar fi corectat informațiile eronate furnizate de chatbotul său generativ AI ChatGPT, care ar putea încălca normele UE privind confidențialitatea, scrie Reuters.
ChatGPT, care a dat startul boom-ului GenAI la sfârșitul anului 2022, poate imita conversația umană și poate îndeplini sarcini precum crearea de rezumate ale unor texte lungi, scrierea de poezii și chiar generarea de idei pentru o petrecere tematică.
NOYB a declarat că reclamantul din cazul său, care este, de asemenea, o personalitate publică, a întrebat ChatGPT despre ziua sa de naștere și i s-au furnizat în mod repetat informații incorecte, în loc ca chatbotul să le spună utilizatorilor că nu are datele necesare.
Grupul a declarat că OpenAI a refuzat cererea reclamantului de rectificare sau ștergere a datelor, spunând că nu este posibil să corecteze datele și că, de asemenea, nu a dezvăluit nicio informație despre datele prelucrate, sursele sau destinatarii acestora.
NOYB a precizat că a depus o plângere la autoritatea austriacă pentru protecția datelor, solicitându-i să investigheze prelucrarea datelor de către OpenAI și măsurile luate pentru a asigura acuratețea datelor cu caracter personal prelucrate de modelele lingvistice de mari dimensiuni ale companiei.
“Este clar că, în prezent, companiile nu sunt în măsură să facă chatbots precum ChatGPT să respecte legislația UE, atunci când prelucrează date despre persoane fizice”, a declarat Maartje de Graaf, avocatul NOYB pentru protecția datelor, într-un comunicat.
“Dacă un sistem nu poate produce rezultate precise și transparente, nu poate fi folosit pentru a genera date despre persoane fizice. Tehnologia trebuie să urmeze cerințele legale, nu invers”, a mai spus ea.
În trecut, OpenAI a recunoscut tendința instrumentului de a răspunde cu “răspunsuri care sună plauzibil, dar incorecte sau fără sens”, o problemă pe care o consideră dificilă de rezolvat.