Foto: Pexels
Cum ar fi ca o companie să aibă atât de multe date despre tine, încât să știe că ai fi dispus să plătești mai mult pentru un serviciu sau produs? Acest lucru nu este o distopie, ci este o realitate și se petrece cu ajutorul inteligenței artificiale. Iar în plus, oamenii ar putea fi penalizați de algoritm din cauza rasei, vârstei sau clasei lor sociale, un fenomen numit discriminare de preț prin AI.
Albert Fox Cahn, CEO-ul grupului S.T.O.P. pentru drepturile civile și protecția vieții private, pictează acest tablou distopic: „Toate aceste întreprinderi știu acum atât de multe despre mine încât pot vedea un număr care clipește deasupra capului meu: prețul exact pe care aș fi dispus să îl plătesc la un moment dat. Propriul tău număr clipește chiar acum deasupra capului tău.” El își manifestă îngrijorarea despre aceste practici, într-un articol publicat de Business Insider.
Factori care vor influența prețurile – strategiile Uber, Amazon și Walmart
La comanda unei curse Uber, este bine cunoscut faptul că distanța și ora din zi sunt factori de preț, deoarece ne-am obișnuit cu eficiența rece și extractivă a prețurilor de vârf. Piața liberă oferă oportunitatea de a folosi aceste strategii. Tactica merge însă și mai departe – nivelul bateriei ar fi unul dintre factorii pe care Uber îi folosește pentru a stabili prețul călătoriei, însă corporația neagă vehement această acuzație. Totuși, raționamentul este ușor de înțeles și nu pare a fi deloc departe de comportamentul parșiv al corporațiilor din realitate: cei care mai au puțină baterie sunt mai disperați, iar cei ale căror telefoane sunt la câteva minute distanță de moarte nu vor ezita să plătească aproape orice preț pentru a obține o mașină înainte de a rămâne blocați.
Recomandări Video
Articolul continuă mai jos
Comercianții cu amănuntul precum Amazon știu foarte, foarte multe despre ceea ce cumpărați, atât pe platforma sa, cât și în afara acesteia. În 2018, prima pagină a ziarelor spunea că Amazon a ajustat prețurile de 2,5 milioane de ori pe zi, dar numărul este probabil cu un ordin de mărime mai mare astăzi.
Walmart, pe de altă parte, nu folosește doar istoricul nostru de cumpărături. În februarie, acesta a cumpărat producătorul de televizoare inteligente Vizio pentru mai mult de 2 miliarde de dolari. Astfel, are acces la o multitudine de date intime ale consumatorilor. În special Vizio a fost amendată cu milioane de dolari pentru acuzații de spionare ilegală a clienților.
“Comercianții nu numai că știu ce ați cumpărat și câți bani câștigați, dar de multe ori știu și unde vă aflați, cum vă merge ziua și care este starea dvs. de spirit, toate acestea putând fi sintetizate perfect de rețelele neuronale AI pentru a calcula cât ați plăti pentru un anumit articol într-un anumit moment.” , spune CEO-ul grupului S.T.O.P.
Stabilirea individualizată a prețurilor se înmulțește în aproape toate sectoarele economiei (streaming, fast-food, chiar și aplicații de întâlniri) și poate fi surprinzător care sunt variabilele care determină prețul mai ridicat. Metodele de extragere a datelor pentru sortarea oamenilor în grupuri de prețuri sunt mai invazive decât am putea crede.
Spațiul personal
Niciun domeniu al comerțului nu mai este considerat prea personal pentru a fi interzis. Tinder, deși vorbește rar despre tehnologia sa de stabilire a prețurilor, a fost descoperit recent de Mozilla și Consumers International că folosește zeci de variabile pentru a ajusta radical prețurile pentru utilizatori. Vârsta, sexul și orientarea sexuală ar putea determina ceea ce AI decide că trebuie să plătiți pentru dragoste.
Dacă nu sunt controlate, prețurile personalizate vor avea efecte nocive asupra întregii societăți. Prețul AI înseamnă că cei care sunt cei mai disperați și mai vulnerabili vor plăti adesea cel mai mult. Chiar mai rău, oamenii ar putea fi penalizați din cauza rasei, vârstei sau clasei lor sociale. O caracteristică a minorităților este faptul că sunt mai afectate de schimbări paternaliste.
Chiar și în cazul segmentării în funcție de bateria telefonului, putem observa astfel de penalizări, explică Business Insider. Persoanele în vârstă sunt de două ori mai predispuse decât utilizatorii tineri să aibă un telefon vechi de cel puțin trei ani. Deoarece smartphone-urile mai vechi tind să aibă o durată de viață mai mică a bateriei, persoanele în vârstă ar putea ajunge să plătească mai mult decât persoanele tinere pentru aceleași curse Uber.
Discriminare tradițională vs. algoritmică
Până acum, cultura cupoanelor permitea companiilor să vândă același produs în același magazin, în același timp, la prețuri diferite – dar le oferea clienților posibilitatea de a acționa. O mare parte din discriminarea tradițională (cupoanele, cardurile de fidelitate, reducerile sezoniere) permite cumpărătorilor să aleagă în ce grupă de prețuri doresc să se încadreze. Cumpărătorii sensibili la preț plăteau cu timpul personal pentru a căuta reduceri, iar cei mai puțin economi plăteau prețul integral. Discriminarea algoritmică a prețurilor ne va priva de posibilitatea de alegere.
Aceste practici le putem regăsi, de exemplu, când rezervăm un zbor, sub forma unui joc în care doar compania aeriană cunoaște regulile. Nenumărate coduri de rezervare, programe de fidelizare și modificări ale tarifelor folosesc datele împotriva portofelului consumatorului. Continuăm să vedem același joc trucat peste tot: în fiecare cursă Uber, în fiecare comandă Amazon, în fiecare călătorie la supermarket. În era algoritmică, variabilitatea prețurilor se strecoară tot mai mult în comerțul digital, tarifele crescând și scăzând în timp real.
Protecție legală
Știm cum să dovedim discriminarea umană: dacă un magazin dintr-un cartier cu populație majoritar de culoare percepe prețuri mai mari decât magazinul similar dintr-un cartier cu populație majoritar albă, experții pot merge la fiecare magazin, pot înregistra prețurile și pot intenta un proces. Acest tip de testare a stat la baza protecției consumatorilor timp de aproape un secol.
Dar cum putem dovedi că un algoritm discriminează? Nu există magazine pe care să le vizităm, nu există etichete cu prețuri de comparat, ci doar milioane de ecrane izolate în buzunarele oamenilor. În cazul acesta este vorba de un cerc vicios, în care dovezile se obțin doar dând în judecată o companie, dar nu putem da în judecată compania fără a avea mai întâi datele.
Am putea asista la apariția unei lumi juridice perverse, bizare, în care companiile care utilizează GenAI pentru a ajusta prețurile în secret se confruntă cu un control juridic mai redus decât magazinele fizice.