Există temeri legate de faptul că IA generativă ar putea perturba democrația, submina educația sau concedia mii de lucrători.
Însă adevărata revoluție a inteligenței artificiale este preluarea insidioasă a relațiilor interpersonale și distrugerea lor.
Un start-up „companion” IA, numit Friend, tocmai a investit peste un milion de dolari în cea mai mare campanie publicitară din istorie pentru metroul din New York, prezentându-și cel mai recent produs: un pandantiv care ascultă utilizatorii și le trimite mesaje text de susținere și sfaturi.
Companiile sunt destul de discrete când vine vorba de divulgarea proceselor lor de colectare a datelor. Dar ne-am obișnuit atât de mult să împărtășim cele mai intime aspecte ale vieții noastre cu tehnologia, încât serviciile de „însoțire” bazate pe inteligența artificială au câștigat rapid popularitate, relatează UnHerd. Xiaoice, un chatbot din China, are deja peste 660 de milioane de utilizatori, iar faptul că aceste dispozitive ascultă în permanență nu mai este ascuns în textul scris cu litere mici, ci afișat pe 1.000 de postere ale platformei.
Sloganuri Friend precum „Nu voi renunța niciodată la planurile noastre de cină” sau „Nu voi lăsa niciodată vase murdare în chiuvetă” sunt o amintire terifiantă a modului în care maximizează implicarea utilizatorilor oferindu-le „prieteni” sau „prietene” care au atenție, răbdare, empatie și disponibilitate nelimitate.
Un prieten AI purtabil nu seamănă cu un Tamagotchi pentru adulți, iar colaborarea cu alți fani și colaborarea cu un model lingvistic de mari dimensiuni sunt complet diferite.
A-ți dezvălui gândurile cele mai intime unui algoritm nu este același lucru cu a discuta cu un prieten imaginar. Serviciile de companie AI sunt orientate spre profit și vor face tot ce este necesar pentru a maximiza implicarea.
Relațiile dintre oameni și IA progresează adesea mai rapid decât relațiile dintre oameni, deoarece aceste produse oferă anonimatul perceput și sunt concepute pentru a fi cât mai puțin critice posibil.
Au existat cazuri în care tineri s-au sinucis după ce și-au dezvăluit problemele către CharacterAI sau ChatGPT. În aproape toate, inteligența artificială le spune utilizatorilor să caute ajutor, dar nu le reamintește că, de fapt, nu este umană. Implicarea se bazează pe ignorarea realității.
Companionii IA nu oferă niciunul dintre aspectele fandomurilor tradiționale, cum ar fi identitatea și sentimentul de apartenență. Dimpotrivă, prosperă pe baza dependenței, nu a evadării din realitate.