Sursa String Labs Creative
Karandeep Anand, directorul general al companiei care produce chatbotul de inteligență artificială Character.ai, crede că majoritatea oamenilor vor avea „prieteni AI” în viitor, în timp ce compania se confruntă cu o serie de procese privind presupuse daune aduse copiilor, iar grupurile de advocacy cer interzicerea aplicațiilor de acest gen, potrivit Financial Times.
Urmărește mai jos producțiile video ale Economedia:
- articolul continuă mai jos -
Start-up-ul cu sediul în San Francisco, susținut de investitori importanți din Silicon Valley, precum Andreessen Horowitz, și o fostă țintă de achiziție pentru Meta, se află în grupurile tehnologice care construiesc chatboți alimentați de AI cu diverse personaje care interacționează cu oamenii.
Acesta oferă chatboți AI care au personaje precum „faraon egiptean”, „un manager HR” sau „o iubită toxică”, care s-au dovedit populari în rândul utilizatorilor tineri.
„Nu vor fi un înlocuitor pentru prietenii tăi reali, dar vei avea prieteni AI și vei putea să înveți din acele conversații prietenoase cu AI pentru a le aplica în conversațiile din viața reală”, a spus Karandeep Anand, care a preluat funcția de CEO în iunie.
El a fost numit la mai puțin de un an după ce Google i-a recrutat pe fondatorii Character.ai într-o tranzacție de 2,7 miliarde de dolari. Compania a declarat că are 20 de milioane de utilizatori activi lunar, dintre care aproximativ jumătate sunt femei și 50% sunt din generațiile Z sau Alpha, persoane născute după 1997.
Totuși, Character.ai este și subiectul unor procese din partea unor familii care susțin că copiii lor au suferit daune în viața reală din cauza utilizării platformei.
Un caz din Florida arată că platforma a jucat un rol în sinuciderea unui adolescent de 14 ani. O altă plângere din Texas citează un adolescent care discuta cu chatbotul despre o dispută legată de timpul petrecut pe ecran, iar acesta ar fi sugerat uciderea părinților ca posibilă soluție, precum și cazul unei fete de 9 ani expusă la conversații sexuale.
Compania a refuzat să comenteze litigiile în curs, dar a evidențiat schimbări recente, inclusiv lansarea unui model AI separat pentru cei sub 18 ani și notificarea utilizatorilor dacă au petrecut mai mult de o oră pe platformă.
Character.ai precizează că ar interzice conținutul sexual fără consimțământ, descrierile grafice sau detaliate ale actelor sexuale ori promovarea sau descrierea autovătămării sau a sinuciderii.
„Încrederea și siguranța nu sunt negociabile. Evoluăm constant pentru a face platforma mai sigură”, spune Anad.
Grupurile de advocacy, precum Common Sense Media din SUA, au militat pentru o legislație americană care să interzică utilizarea unor astfel de aplicații de însoțire AI de către minori.
Un sondaj realizat de aceasta pe mai mult de 1.000 de adolescenți americani a constatat că 39% și-au transferat abilități sociale practicate cu însoțitori AI în situații din viața reală, în timp ce 33% au ales să discute subiecte importante sau serioase cu însoțitori AI în loc de oameni reali.
„Aceste produse sunt concepute pentru a crea atașament emoțional și dependență, ceea ce este deosebit de îngrijorător pentru creierele adolescenților aflați în dezvoltare, care încă învață cum să navigheze în interacțiunile și relațiile sociale”, a spus Robbie Torney, director senior de programe AI la Common Sense Media.
Character.ai a introdus recent publicitate și are planuri să integreze funcții de monetizare conduse de creatori, cum ar fi bacșișurile sau achizițiile în aplicație pentru conținut digital. Veniturile sale principale provin din abonamente, care, potrivit companiei, au crescut cu 250% de la un an la altul, dar nu a oferit detalii financiare specifice. Percepe 9,99 dolari pe lună sau 120 de dolari anual.
Deși utilizatorul mediu Character.ai petrece 80 de minute pe zi în aplicație, Anand a spus că aceasta oferă o experiență mai captivantă și mai distractivă, în care utilizatorii controlează narațiunea „spre deosebire de consumul de conținut pasiv”. Compania și-a lansat luna aceasta propria versiune de feed de social media, subliniind și mai mult accentul pe divertisment.
O altă tendință emergentă este utilizarea unor astfel de platforme pentru conversații romantice și sugestive. Grok, creat de start-up-ul xAI al lui Elon Musk, a lansat recent personaje AI care se angajează în jocuri de rol explicite, iar chatbotul AI al Meta va permite și ea interacțiuni romantice pentru adulți.
Character.ai permite conversații romantice cu utilizatori adulți, dar nu și unele sexuale explicite.
Șeful Meta, Mark Zuckerberg, care de asemenea promovează acest tip de chatboți generați de AI către utilizatori, i-a spus podcasterului Dwarkesh Patel în aprilie că interacțiunea cu AI ca prieten ar putea ajuta la combaterea singurătății.
Anand susține că astfel de oferte îi vor ajuta pe oameni în interacțiunile reale cu alți oameni.
„Văd o lume foarte utopică în care AI ne face mai buni. Oamenii ajung să folosească aceste personaje… ca un teren de testare pentru a face relațiile din viața reală mult mai profunde, mult mai utile și mult mai sănătoase”, spune el.
