Sursa foto: pexels.com
Au trecut mai puțin de două săptămâni de când Google a debutat „AI Overview” în Google Search, iar criticile publice s-au înmulțit, după ce interogările au returnat rezultate absurde sau inexacte în cadrul funcției AI – fără nicio modalitate de a renunța la aceasta, arată CNBC.
AI Overview afișează un rezumat rapid al răspunsurilor la întrebările de căutare chiar în partea de sus a Google Search. De exemplu, dacă un utilizator caută cel mai bun mod de a curăța cizmele de piele, pagina de rezultate poate afișa în partea de sus o „Prezentare generală AI” cu un proces de curățare în mai multe etape, obținut din informațiile sintetizate de pe internet.
Însă utilizatorii de social media au împărtășit o gamă largă de capturi de ecran care arată că instrumentul de inteligență artificială oferă răspunsuri incorecte și controversate.
Recomandări Video
Articolul continuă mai jos
Google, Microsoft, OpenAI și alte companii se află la cârma unei curse a înarmării cu AI generativ, în timp ce companii din aparent toate industriile se grăbesc să adauge chatbots și agenți cu AI pentru a evita să fie lăsate în urmă de concurenți. Se preconizează că această piață va depăși 1 trilion de dolari în venituri în decurs de un deceniu.
Iată câteva exemple de erori produse de AI Overview, conform capturilor de ecran împărtășite de utilizatori.
Când a fost întrebat câți președinți musulmani au avut SUA, AI Overview a răspuns: „Statele Unite au avut un singur președinte musulman, Barack Hussein Obama”.
Atunci când un utilizator a căutat „brânză care nu se lipește de pizza”, funcția a sugerat să se adauge „aproximativ 1/8 de cană de lipici netoxic în sos”. Utilizatorii rețelelor sociale au găsit un comentariu Reddit vechi de 11 ani care părea a fi sursa.
Atribuirea poate fi, de asemenea, o problemă pentru AI Overview, în special în ceea ce privește atribuirea de informații inexacte profesioniștilor din domeniul medical sau oamenilor de știință.
De exemplu, la întrebarea „Cât timp pot să mă uit la soare pentru o sănătate mai bună”, instrumentul a spus: „Potrivit WebMD, oamenii de știință spun că privitul la soare timp de 5-15 minute, sau până la 30 de minute dacă aveți pielea mai închisă la culoare, este în general sigur și oferă cele mai multe beneficii pentru sănătate”.La întrebarea „Câte pietre ar trebui să mănânc în fiecare zi”, instrumentul a spus: „Potrivit geologilor de la UC Berkeley, oamenii ar trebui să mănânce cel puțin o piatră mică pe zi”, continuând să enumere vitaminele și beneficiile digestive.
De asemenea, instrumentul poate răspunde inexact la întrebări simple, cum ar fi alcătuirea unei liste de fructe care se termină cu „um” sau afirmarea că anul 1919 a fost acum 20 de ani. Când a fost întrebat dacă Google Search încalcă sau nu legea antitrust, AI Overview a răspuns: „Da, Departamentul de Justiție al SUA și 11 state dau în judecată Google pentru încălcarea legii antitrust”.
În ziua în care Google a lansat AI Overview în cadrul evenimentului său anual Google I/O, compania a declarat că intenționează, de asemenea, să introducă capacități de planificare de tip asistent direct în cadrul căutării.Aceasta a explicat că utilizatorii vor putea căuta ceva de genul: „Creați un plan de masă de 3 zile pentru un grup care să fie ușor de pregătit” și vor obține un punct de plecare cu o gamă largă de rețete de pe web.„Marea majoritate a prezentărilor AI oferă informații de înaltă calitate, cu linkuri pentru a aprofunda mai mult pe web”, a declarat un purtător de cuvânt al Google pentru CNBC într-un comunicat.
„Multe dintre exemplele pe care le-am văzut au fost interogări neobișnuite și am văzut, de asemenea, exemple care au fost falsificate sau pe care nu le-am putut reproduce.”Purtătorul de cuvânt a declarat că AI Overview a fost supus unor teste extinse înainte de lansare și că societatea ia „măsuri rapide acolo unde este cazul, conform politicilor noastre de conținut”.
Vestea vine după lansarea instrumentului de generare de imagini Gemini de către Google în februarie și o pauză în aceeași lună după probleme similare. Instrumentul a permis utilizatorilor să introducă indicații pentru a crea o imagine, dar, aproape imediat, utilizatorii au descoperit inexactități istorice și răspunsuri discutabile, care au circulat pe scară largă pe rețelele sociale. De exemplu, atunci când un utilizator a cerut Gemini să arate un soldat german în 1943, instrumentul a prezentat un set de soldați de rasă diversă purtând uniforme militare germane din acea perioadă, potrivit capturilor de ecran de pe platforma de socializare X.
Atunci când i s-a cerut o „reprezentare exactă din punct de vedere istoric a unui rege britanic medieval”, modelul a generat un alt set de imagini diverse din punct de vedere rasial, inclusiv una cu o femeie conducător, au arătat capturile de ecran. Utilizatorii au raportat rezultate similare atunci când au cerut imagini ale părinților fondatori ai SUA, ale unui rege al Franței din secolul al XVIII-lea, ale unui cuplu german din anii 1800 și altele. Modelul a arătat o imagine cu bărbați asiatici ca răspuns la o interogare despre fondatorii Google, au raportat utilizatorii.
Google a transmis atunci într-o declarație că lucrează pentru a remedia problemele de generare a imaginilor din Gemini, recunoscând că instrumentul „a ratat ținta”. La scurt timp după aceea, compania a anunțat că va „întrerupe imediat generarea de imagini ale persoanelor” și „va relansa în curând o versiune îmbunătățită”.În februarie, directorul executiv al Google DeepMind, Demis Hassabis, a declarat că Google plănuia să relanseze instrumentul de inteligență artificială pentru generarea de imagini în următoarele „câteva săptămâni”, dar acesta nu a fost încă lansat din nou.Problemele legate de ieșirile Gemini de generare a imaginilor au reaprins o dezbatere în cadrul industriei de inteligență artificială, unele grupuri numind Gemini prea „woke”, sau de stânga, iar altele spunând că firma nu a investit suficient în formele corecte de etică a inteligenței artificiale. Google a fost criticată în 2020 și 2021 pentru că i-a înlăturat pe co-liderii grupului său de etică în domeniul IA după ce aceștia au publicat o lucrare de cercetare care critica anumite riscuri ale unor astfel de modele de IA și apoi a reorganizat ulterior structura grupului.
În 2023, Sundar Pichai, directorul general al companiei-mamă a Google, Alphabet, a fost criticat de unii angajați pentru lansarea defectuoasă și „grăbită” a companiei Bard, care a urmat răspândirii virale a ChatGPT.