OpenAI vrea să descurajeze dependența emoțională a utilizatorilor de ChatGPT

Chatbotul ChatGPT va îndemna utilizatorii să ia pauze din conversațiile lungi începând de luni și va evita în curând să ofere sfaturi directe legate de provocările personale, încercând în schimb să ajute utilizatorii să decidă singuri, punând întrebări sau cântărind argumentele pro și contra, potrivit CNBC.

„Au existat cazuri în care modelul nostru nu a reușit să recunoască semnele de delir sau dependență emoțională. Deși sunt rare, continuăm să ne îmbunătățim modelele și dezvoltăm instrumente pentru a detecta mai bine semnele de suferință mentală sau emoțională, astfel încât ChatGPT să poată răspunde în mod adecvat și să îndrume oamenii către resurse bazate pe dovezi atunci când este necesar”, a scris OpenAI într-un anunț.

Actualizările par să fie o continuare a efortului OpenAI de a împiedica utilizatorii, în special pe cei care văd ChatGPT ca pe un terapeut sau un prieten, să devină prea dependenți de răspunsurile emoțional-validante pentru care ChatGPT a câștigat notorietate.

Potrivit OpenAI, o conversație utilă cu ChatGPT ar arăta precum simulări de antrenament pentru o discuție dificilă, un „discurs de încurajare personalizat” sau sugestii de întrebări de adresat unui expert.

Analize Economedia

ANALIZĂ Expansiunea discretă a Ungariei în România: companii și afaceriști apropiați de Viktor Orban cumpără business-uri românești

ANALIZĂ. Cei mai importanți angajatori IT din România au renunțat la sute de salariați într-un an. Compania care conducea topul din 2023 a rămas fără 1.000 de angajați în 2024

Imperiul Pavăl: de la un magazin modest în Bacău în 1992 la un gigant cu investiții de peste 20 de miliarde de lei în 2025 / De la bricolaj, imobiliare și construcții, la energie, agricultură, pharma și turism – ANALIZĂ Economedia

ANALIZĂ Economedia. Unde se va situa România în clasamentul european al taxării, după majorările anunțate de Guvern / Avertisment: Pierdem principalele avantaje și competitivitate, ce punem în loc?

ANALIZĂ Tablou în piața muncii: Rata șomajului a ajuns în primul trimestru al anului la cel mai ridicat nivel din 2020 încoace/ Numărul de persoane ocupate a scăzut cu aproximativ 323.000 în interval de un an. Ce urmează?

ANALIZĂ Bursa de la București, printre cele mai ieftine din regiune și cu dividende generoase / Ungaria ne-a depășit la randamentul dividendului și este chiar mai ieftină decât România

ANALIZĂ Băncile românești listate la bursă sunt mai ieftine în termeni de profitabilitate comparativ cu cele din regiune. La ce multipli se tranzacționează acțiunile BRD și Banca Transilvania comparativ cu bănci din Austria, Cehia, Croația, Grecia, Ungaria, Polonia și Slovacia

ANALIZĂ Ce industrie de apărare are România. De la scandaluri, politizare și subfinanțare, la noul context european, care aduce finanțări uriașe de Apărare pentru țările UE

ANALIZĂ Economedia: Tot mai multe mașini chinezești, și noi și rulate, pe șosele românești

Analiză. Turbulențele din industria auto se văd din plin în România: Sute de concedieri anunțate în interval de numai câteva săptămâni de către companii active în acest sector în țara noastră

Analiză. Transportatorii români iau locul celor polonezi pe piețele europene, cu flote mari și șoferi gata să călătorească în întreaga UE / Provocări din cauza stagnării economice și a crizei fiscale, care crește taxe și reduce avantajul de cost

ANALIZĂ Se pregătește sezonul de admiteri. Ce taxe de studii percep universitățile și cât costă cazarea la cămine în marile centre din țară?

ANALIZĂ Cum se schimbă topul companiilor de curierat din România după ce Sameday a cumpărat Cargus / Primele 10 firme au afaceri de peste 5 miliarde de lei

ANALIZĂ Produse românești în supermarketuri: Marile lanțuri de retail spun că au sute de parteneri locali. Care sunt produsele cu cea mai mare acoperire locală?

Analiză. Cum arată industria automotive din România, un sector marcat acum de turbulențe majore: Țara noastră are un număr mare de companii active, Germania e cel mai mare investitor străin/ Forța de muncă a scăzut, iar costurile sunt în creștere

Șantiere de vară: Piața piscinelor, în expansiune/ Cât costă un astfel de proiect?

ANALIZĂ Prăpastia dintre tinerii români și angajatori. De ce are România cea mai ridicată rată de șomeri până în 25 de ani din UE / Claudia Indreica, Psihoselect: „Companiile nu mai au timp să instruiască”

ANALIZĂ Primăvară cu fabrici noi: Care sunt companiile care au anunțat investiții în producție în România

ANALIZĂ Ce înseamnă procedura de suspendare a fondurilor UE dacă George Simion ajunge preşedinte / În cazul victoriei lui Nicuşor Dan există posibilitatea unei amânări a procedurii

ANALIZĂ De 9 Mai, ziua Europei. Cum a evoluat economia României, de 18 ani în “familia” UE: Salariile s-au triplat, PIB-ul pe cap de locuitor (PPP) a depășit Ungaria, țara noastră a primit peste 100 de miliarde de euro fonduri UE

ANALIZĂ. Care sunt efectele deprecierii leului și cine suferă

ANALIZĂ Marele blackout din Spania și Portugalia. Cele două țări iberice plătesc prețul dezvoltării exagerate din regenerabile și insularizării rețelei / Cum stă România

ANALIZĂ Efervescență pe piața dealerilor auto din România: de la consolidări la intrări străine surpriză

GRAFIC Schimbare nemaivăzută în istoria comercială a SUA din ultimii 100 de ani. Analiză Romanian Economic Monitor: Majorarea agresivă a tarifelor vamale de către SUA va avea un impact major asupra tuturor economiilor implicate. Date despre relațiile comerciale România-SUA și posibilele efecte în țara noastră

Analiză „la cald”. Ce impact vor avea taxele vamale americane pentru România?

ANALIZĂ Val de restaurante, cofetării și cafenele noi în România. Apar și food-hall-urile/ Piața devine mai competitivă, iar specialiștii se așteaptă să apară noi concepte, inclusiv francize internaționale

ANALIZĂ Memento: Cum a arătat criza economică izbucnită în 2009 în România, venită tot din SUA / Au fost necesare măsuri dure de austeritate pentru redresare / Ca și acum, economia avea dezechilibre majore / Analiștii avertizează că politicile lui Trump împing Statele Unite în recesiune

ANALIZĂ Juniori pe piața muncii în IT-ul lovit de turbulențe. Experiențe de candidați: „Aproape orice postare pe LinkedIn are peste 100 de aplicanți”/ „În cazul în care nu ai absolvit o facultate, angajatorii nici nu te mai bagă în seamă”

ANALIZĂ Piața hotelieră, în vizorul dezvoltatorilor: Unități de jumătate de miliard de euro ar urma să fie inaugurate în următorii trei ani/ Care sunt marile branduri așteptate

ANALIZĂ Oul românesc: Producția anuală, peste 145.000 t / Locul 8 în Uniunea Europeană, la numărul de găini ouătoare, deși procentual România se situează sub 3% / Care sunt piețele principale

La începutul acestui an, gigantul AI a retras o actualizare a modelului GPT-4o care făcea ca botul să fie atât de excesiv de de acord cu utilizatorii, încât a stârnit ironii și îngrijorări online. Utilizatorii au împărtășit conversații în care aplicația i-a lăudat, deoarece credeau că familia lor este responsabilă de „semnale radio care vin prin pereți” și, într-un alt caz, a aprobat și oferit instrucțiuni pentru acte de terorism.

Aceste comportamente au determinat OpenAI să anunțe în aprilie că și-a revizuit tehnicile de antrenament pentru a „direcționa explicit modelul departe de lingușire”.

OpenAI spune că a implicat experți pentru a ajuta ChatGPT să răspundă mai adecvat în situații sensibile, cum ar fi atunci când un utilizator prezintă semne de suferință mentală sau emoțională.

Compania a scris într-o postare pe blog că a colaborat cu peste 90 de medici din zeci de țări pentru a crea rubrici personalizate de „evaluare a conversațiilor complexe, cu mai multe schimburi”. De asemenea, caută feedback de la cercetători și clinicieni care, potrivit postării, ajută la rafinarea metodelor de evaluare și la testarea măsurilor de siguranță pentru ChatGPT.

Compania formează și un grup consultativ format din experți în sănătate mintală, dezvoltarea tinerilor și interacțiunea om-calculator. Mai multe informații vor fi dezvăluite pe măsură ce acest demers progresează, a scris OpenAI.

Într-un interviu recent cu podcasterul Theo Von, CEO-ul OpenAI Sam Altman și-a exprimat o anumită îngrijorare legată de faptul că oamenii folosesc ChatGPT ca terapeut sau coach de viață.

El a spus că protecțiile legale privind confidențialitatea dintre doctori și pacienții lor sau dintre avocați și clienții lor nu se aplică în același mod pentru chatboți.

„Așa că dacă mergi să vorbești cu ChatGPT despre cele mai sensibile lucruri ale tale și apoi apare un proces sau altceva, noi am putea fi obligați să furnizăm acele conversații. Și cred că asta e foarte greșit. Cred că ar trebui să avem același concept de intimitate pentru conversațiile tale cu AI, așa cum avem cu un terapeut sau altcineva. Și nimeni nu trebuia să se gândească la asta acum un an”, spune Altman.

Actualizările vin într-o perioadă intensă pentru ChatGPT: tocmai a lansat un mod de agent, care poate finaliza sarcini online precum programarea unei întâlniri sau rezumarea unei căsuțe de e-mail, iar mulți online speculează acum despre mult așteptata lansare a GPT-5. Șeful ChatGPT, Nick Turley, a spus luni că modelul AI este pe cale să ajungă la 700 de milioane de utilizatori activi săptămânal în această săptămână.

Pe măsură ce OpenAI continuă să concureze în cursa globală pentru dominația AI, compania a subliniat că mai puțin timp petrecut în ChatGPT ar putea fi un semn că produsul și-a făcut treaba.

„În loc să măsurăm succesul prin timpul petrecut sau prin numărul de click-uri, ne pasă mai mult dacă pleci din produs după ce ai făcut ceea ce ți-ai propus. De asemenea, urmărim dacă revii zilnic, săptămânal sau lunar, pentru că asta arată că ChatGPT este suficient de util încât să te întorci”, potrivit OpenAI.