Sursa foto: Dreamstime
La mai puțin de șase luni după ce OpenAI, creatorul ChatGPT, a dezvăluit un instrument de detectare a AI cu potențialul de a ajuta profesorii și alți profesioniști să detecteze lucrările generate de AI, compania a retras funcția, scrie CNN.
OpenAI a închis în liniște instrumentul săptămâna trecută, citând o “rată scăzută de acuratețe”, potrivit unei actualizări a postării originale de pe blogul companiei care anunța funcția.
“Lucrăm pentru a încorpora feedback-ul și în prezent cercetăm tehnici de proveniență mai eficiente pentru text”, a scris compania în actualizare. OpenAI a declarat că se angajează, de asemenea, să ajute “utilizatorii să înțeleagă dacă conținutul audio sau vizual este generat de AI”.
Recomandări Video
Articolul continuă mai jos
Vestea vine în momentul în care profesorii se pregătesc pentru primul an școlar complet cu instrumente precum ChatGPT disponibile publicului.
Ascensiunea bruscă a ChatGPT a stârnit îngrijorări în rândul unor profesori la sfârșitul anului trecut, din cauza posibilității ca acesta să îi ajute fmai mult ca niciodată pe elevi să trișeze la teme.
Școlile publice din New York și Seattle au interzis elevilor și profesorilor să folosească ChatGPT pe rețelele și dispozitivele districtului. Unii educatori s-au mișcat cu o rapiditate remarcabilă pentru a-și regândi temele ca răspuns la ChatGPT, chiar dacă a rămas neclar cât de răspândită era utilizarea instrumentului în rândul elevilor și cât de dăunător ar putea fi cu adevărat pentru învățare.
În acest context, OpenAI a anunțat în februarie instrumentul de detectare a IA pentru a permite utilizatorilor să verifice dacă un eseu a fost scris de un om sau de o IA. Funcția, care a funcționat pe texte în limba engleză generate de AI, a fost alimentată de un sistem de învățare automată care ia o intrare și o atribuie la mai multe categorii.
După ce un text, cum ar fi un eseu școlar, este introdus în noul instrument, acesta a oferit unul dintre cele cinci rezultate posibile, de la “probabil generat de AI” la “foarte puțin probabil”.
Dar chiar și în ziua lansării sale, OpenAI a recunoscut că instrumentul este “imperfect” și că rezultatele ar trebui “luate cu un grăunte de sare”.
“Chiar nu recomandăm să luăm acest instrument în mod izolat, pentru că știm că poate fi greșit și va fi greșit uneori – la fel ca și în cazul folosirii AI pentru orice fel de evaluare”, a declarat la vremea respectivă Lama Ahmad, director de cercetare politică la OpenAI, pentru CNN.
În timp ce instrumentul ar putea oferi un alt punct de referință, cum ar fi compararea exemplelor din trecut ale muncii și stilului de scriere al unui student, Ahmad a spus că “profesorii trebuie să fie foarte atenți la modul în care îl includ în deciziile de necinste academică”.
Deși este posibil ca OpenAI să își abandoneze instrumentul pentru moment, există câteva alternative pe piață.
Alte companii, cum ar fi Turnitin, au lansat, de asemenea, instrumente de detectare a plagiatului prin inteligență artificială, care ar putea ajuta profesorii să identifice atunci când temele sunt scrise de instrument. Între timp, studentul Edward Tuan, de la Princeton, a introdus o funcție similară de detectare a IA, numită ZeroGPT.