Photo 171270756 | Artificial Intelligence © BiancoBlue | Dreamstime.com
Reprezentanții Ministerului Finanțelor s-au consultat cu firme din piață în vederea realizării achiziției
de produse și servicii de digitalizare, în cadrul proiectului „Dezvoltarea serviciilor la distanță (electronice sau telefonice) actuale, prin noi funcționalități și/sau crearea de servicii noi – e-Services ANAF”. Discuțiile au vizat inclusiv un chatbot și posibilitatea folosirii ChatGPT.
Specialiști ai Ministerului Finanțelor au avut recent consultări cu reprezentanți ai mai multor firme, discuțiile vizând și dezvoltarea unui chatbot mai bun pentru site-ul ANAF. Propunerea cel mai intens dezbătută a fost un chatbot care să folosească Chat GPT pentru a genera răspunsuri la întrebări, după cum a relatat Profit.ro.
Reprezentanții Finanțelor pornesc de la ideea unui chatbot bazat pe NLP (procesarea limbajului natural), dar discuțiile au vizat și implementarea unui chatbot care să folosească Chat GPT. În caietul de sarcini transmis acum spre consultare pieței, Ministerul Finanțelor a precizat că a solicitat o variantă de chatbot pe bază de NLP. Caietul de sarcini în forma definitivă va ține cont și de informațiile primite în etapa de consultare.
Recomandări Video
Articolul continuă mai jos
Discuțiile dintre Ministerul Finanțelor și firme au avut loc în etapa de consultare publică, care are ca scop obținerea de informații/recomandări cât mai relevante cu privire la cerințele minime din caietul de sarcini în vederea îmbunătățirii acestora/soluția tehnică optimă. De asemenea, consultările de acest tip au ca scop și obținerea de informații referitoare la valoarea estimată a achiziției.
Punctul de vedere al participanților la
consultare, conform raportului publicat de Finanțe. Ce spun firmele din domeniu:
“S-au prezentat argumente pentru chat GPT: este o soluție capabilă să răspundă și la informații din
site, din surse multiple, din .pdf-uri, pe când o soluție obișnuită nu o face la același nivel. Ideal ar fi dacă ne-am putea folosi, într-un mediu securizat, și de capacitatea chat GPT, dar acest lucru presupune costuri suplimentare pentru volum. Un chat enterprise cu motor de NLP nu va fi la nivelul unui chat GPT. Cu mai
mult antrenament, cu mai multă muncă de mentenanță, ar putea fi adus la un nivel mai
ridicat, dar nu va ajunge la nivelul de calitate al unui chat GPT. Chat GPT se utlizează pe volum
(costă fiecare întrebare și fiecare replică). Rolul unei soluții enterprise este să folosească chat GPT doar cât este nevoie ca aceste interogări să fie cât mai puține (doar acolo unde
este nevoie, pentru a extrage datele din documente, pentru a putea răspunde la întrebări)”.
“Nu implică costuri suplimentare, soluția enterprise este on-premise, cu NLP-ul aferent,
ar trebui să aibă capabilități de limba română. Nu vor exista costuri suplimentare, însă AC nu va
beneficia de capabilitățile/experiența chat GPT. NLP-ul nu va fi la nivelul unui LLM, care
este antrenat pe miliarde de date. Dacă acceptăm acest minus, este soluția corectă.
S-ar putea ca la un moment dat să vă doriți să integrați în soluția enterprise și interogări de chat GPT”. Avantajul este că va fi mai bun, dezavantajul este că va costa în plus. Mai există un dezavantaj: trebuie mediată interacțiunea cu cloud-ul (nu poate fi instalat pe un server al AC),
ceea ce implică riscuri de securitate.
Riscurile sunt mediate/ținute sub control (de exemplu există bănci care își asumă acest risc).
Riscurile sunt prevenite, dar nu este o decizie 100% sigură, încă este o tehnologie analizată de
companiile mari. În principiu există metode de protecție, de „curățare” a datelor cu caracter
personal, astfel încât interogarea să fie cât mai „curată”.
Este o chestiune de implementare, nu trebuie achiziționate servicii/componente
suplimentare. Doar că odată cu chat GPT vor exista costuri per întrebare și răspuns. Deci pe
lângă ce se ofertează ca și licențe și servicii, va exista tot timpul un cost suplimentar care:
– ori este inclus în ofertă, dar ar trebui estimat un volum, astfel încât ofertanții să poată calcula un preț
– ori ulterior va exista un contract separat, cu un generative AI, pentru consumul efectiv
Da, și are și chatbot pe bază de NLP, se creează un arbore conversațional și ghidează
conversația”.
“Chatbot-ul va încerca să răspundă pe baza anumitor documente, cu care îl
antrenăm. Precizarea este că un chatbot, oricât de bun ar fi, înțelege datele până la un anumit nivel, chat GPT le înțelege 100%, deci va fi o diferență de performanță. Va fi experiență de
nota 8.50 în loc de 10, însă trebuie luat în calcul și bugetul disponibil.
2-5 cenți până la 1 euro (în variantele în care nu este implementat corect), ține de volum și în ce
momente apelăm acest chat GPT. În mod normal, ar trebui să nu se apeleze pentru orice,
ci doar în anumite flow-uri, când nu recunoaște intenția utilizatorului.
În caz contrar, la un volum de 10.000 de interogări/zi se poate ajunge la costuri de 5.000
euro/lună. Dar ar trebui optimizat astfel încât să nu se facă apel la GPT întotdeauna și
interogările să fie cât mai scurte, pentru că se plătește în funcție de numărul de cuvinte din
perechea întrebare – răspuns. În cel mai optimist caz se poate ajunge de la 200-300 până la 1.000
euro/lună”.