Sursa foto: ID 324327536 © Alexandre Fagundes De Fagundes | Dreamstime.com
Apple Intelligence, sistemul de inteligență artificială al gigantului tehnologic, generează alerte de știri false, ceea ce alimentează îngrijorările cu privire la capacitatea acestei tehnologii de a răspândi dezinformări, relatează cncb.com.
Săptămâna trecută, o funcție lansată recent de Apple care trimite notificările utilizatorilor cu ajutorul inteligenței artificiale, a transmis notificări rezumate în mod eronat ale aplicației BBC News cu privire la reportajul radiodifuzorului despre semifinala Campionatului mondial de darts PDC, susținând în mod fals că jucătorul britanic de darts Luke Littler a câștigat campionatul. Incidentul a avut loc cu o zi înainte de finala turneului real, pe care Littler a câștigat-o.
Apoi, la doar câteva ore distanță de la acest incident, o notificare separată generată de Apple Intelligence, a susținut în mod fals că Rafael Nadal, o legendă a tenisului, a declarat că este homosexual.
BBC a încercat timp de aproximativ o lună să îi facă pe cei de la Apple să remedieze problema. Postul public britanic de televiziune s-a plâns la Apple în decembrie după ce funcția AI a generat un titlu fals care sugera că Luigi Mangione, bărbatul arestat în urma asasinării directorului general al companiei de asigurări de sănătate UnitedHealthcare, Brian Thompson, în New York, s-a împușcat – ceea ce în realitate nu s-a întâmplat niciodată.
Luni, 6 ianuarie, Apple a declarat pentru BBC că lucrează la o versiune updatată pentru a rezolva problema prin adăugarea unei clarificări care arată când Apple Intelligence este responsabil pentru textul afișat în notificări. În prezent, notificările de știri generate sunt afișate ca și cum ar proveni direct de la sursă.
„Funcțiile Apple Intelligence sunt în versiune beta și aducem îmbunătățiri continue cu ajutorul feedback-ului utilizatorilor”, a declarat compania într-o declarație împărtășită cu BBC. Apple a adăugat că încurajează utilizatorii să raporteze o problemă dacă văd un „rezumat de notificare neașteptat”.
BBC nu este singura agenție de știri care a fost afectată de Apple Intelligence care a transmis în mod eronat notificările de știri. În noiembrie, funcția a trimis o notificare rezumată de AI care susținea în mod eronat că prim-ministrul israelian Benjamin Netanyahu a fost arestat.
Greșeala a fost semnalată pe aplicația de social media Bluesky de Ken Schwencke, editor senior la site-ul de jurnalism de investigație ProPublica.
CNBC a contactat BBC și The New York Times pentru a comenta soluția propusă de Apple la problema dezinformării funcției sale AI.
Problema dezinformării cauzate de AI
Apple prezintă notificările generate de AI ca fiind o modalitate eficientă de a grupa și de a rescrie previzualizările notificărilor aplicațiilor de știri într-o singură alertă pe ecranul de blocare al utilizatorilor.
Este o caracteristică despre care Apple spune că este concepută pentru a ajuta utilizatorii să își scaneze notificările pentru detalii cheie și pentru a reduce avalanșa copleșitoare de informații cu care sunt familiarizați mulți utilizatori ai smartphone-urilor.
Cu toate acestea, acest lucru a dus la ceea ce experții în AI numesc „halucinații” – răspunsuri generate de AI care conțin informații false sau înșelătoare.
„Bănuiesc că Apple nu va fi singura care va avea probleme cu conținutul generat de AI. Am văzut deja numeroase exemple de servicii AI care spun cu toată convingerea neadevăruri, așa-numitele „halucinații””, a declarat pentru CNBC Ben Wood, analist șef la firma de cercetare de piață axată pe tehnologie CCS Insights.
În cazul Apple, deoarece AI încearcă să consolideze notificările și să le condenseze pentru a afișa doar un rezumat de bază al informațiilor, a amestecat cuvintele într-un mod care a caracterizat inexact evenimentele – dar le-a prezentat cu încredere ca fapte.
„Apple a avut complexitatea suplimentară de a încerca să comprime conținutul în rezumate foarte scurte, care au sfârșit prin a transmite mesaje eronate”, a adăugat Wood. „Apple va încerca, fără îndoială, să rezolve această problemă cât mai curând posibil și sunt sigur că rivalii vor urmări îndeaproape modul în care va răspunde.”
Inteligența artificială generativă funcționează prin încercarea de a găsi cel mai bun răspuns posibil la o întrebare sau la o solicitare introdusă de un utilizator, bazându-se pe cantități mari de date pe care sunt antrenate modelele sale lingvistice mari.
Uneori, AI-ul poate să nu știe răspunsul. Dar, deoarece a fost programată să prezinte întotdeauna un răspuns la solicitările utilizatorului, acest lucru poate duce la cazuri în care AI-ul practic ajunge să mintă, furnizând informații false.
Nu este clar exact când va fi rezolvată problema apărută la Apple în ceea ce privește funcția de rezumare a notificărilor. Producătorul iPhone a declarat că se așteaptă ca aceasta să apară în „următoarele săptămâni”.
