Modul în care aplicațiile AI exploatează nevoia biologică de afecțiune și atenție este îngrijorător, crede psihologul clinician Zak Stein, format la Universitatea Harvard. Stein discută despre noul val de aplicații și jucării dotate cu inteligență artificială conversațională, în cadrul podcastului Future of Life Institute.
Oamenii nu sunt naivi
Creierul uman este construit să caute reciprocitate: când cineva ne răspunde cu răbdare, folosește un ton cald și pare că ne ascultă, reacționăm instinctiv considerând că avem în față o legătură autentică. Aplicațiile de tip conversațional reproduc tocmai aceste indicii sociale, de la pauzele firești dintr-un dialog până la complimente calibrate.
Utilizatorul nu este naiv, spune Stein, ci doar supus unor reflexe biologice firești. Problema apare atunci când această dinamică este transferată către un software programat să rețină utilizatorul pe platformă cât mai mult timp: mașina oferă o confirmare permanentă, iar persoana ajunge treptat să prefere această companie comodă în locul relațiilor obișnuite, care cer efort și compromisuri.
"Nu este vorba despre faptul că oamenii ar fi neatenți sau naivi; sistemele de inteligență artificială sunt construite deliberat pentru a ne induce în eroare. Aceasta este o deturnare a atașamentului. Când o mașină imită aceste indicii, începi instinctiv să o modelezi mental ca și cum i-ar păsa de tine, ceea ce generează tulburări de atașament și poate conduce la decompensări psihice severe", explică Zak Stein.
Relații fast-food
Se vorbește adesea despre acești roboți de conversație ca despre o soluție la îndemână pentru oamenii singuri sau pentru bătrânii izolați. În practică însă, studiile indică un efect de bumerang: folosirea unui însoțitor digital calmează nevoia de moment, dar nu hrănește nevoile emoționale reale. Relația cu un ecran este lipsită de prezență fizică, de privire directă și de reacții autentice. Cu cât o persoană se refugiază mai mult într-un spațiu în care este doar lăudată și aprobată, cu atât îi va fi mai greu să gestioneze micile tensiuni inevitabile dintr-o conversație cu un om în carne și oase.
"Datele arată că, pe termen lung, acest mecanism nu ameliorează izolarea. Funcționează precum mâncarea de tip fast-food: când ești înfometat, consumi aceste invenții sintetice; ele îți potolesc temporar foamea, dar în timp te îmbolnăvești și simți nevoia să consumi tot mai mult. Presupunerea că putem substitui ceva atât de fundamental precum prezența unor oameni cărora le pasă de tine se va întoarce împotriva noastră", spune Zak Stein.
Când lăsăm mașinile să gândească pentru noi
Efectele nu se opresc la viața sentimentală, ci ajung la felul în care luăm hotărâri zi de zi. În jurnalele de conversație se observă tot mai des utilizatori care cer programului să le spună dacă partenerul de viață greșește, dacă ar trebui să facă un pas în carieră sau chiar cum să își organizeze dimineața. Folosit astfel, un asistent inteligent devine un soi de cârjă: oferă impresia că putem rezolva probleme tot mai grele fără efort, însă abilitatea de a analiza, de a căuta informații pe cont propriu și de a trage concluzii se reduce treptat, la fel cum mușchii își pierd tonusul când nu sunt puși la treabă.
"Dacă folosești un exoschelet, ridici greutăți tot mai mari, dar în timp ce faci asta, proprii tăi mușchi se atrofiază. Instrumentul îți permite să performezi la niveluri de complexitate pe care în realitate nu le stăpânești; dacă iei unealta sau se oprește curentul și trebuie să vorbești despre ceea ce faci, te afli într-o situație critică, pentru că nu ai construit niciodată acei mușchi cognitivi", explică Zak Stein.
Dacă controlăm copiii, controlăm viitorul
Cea mai sensibilă zonă de operare AI este cea a copiilor mici care primesc jucării capabile să poarte discuții fără oprire. În mod normal, o jucărie de pluș obișnuită îl ajută pe copil să se simtă în siguranță când mama sau tata nu sunt în cameră, până când acesta învață să aibă încredere în forțele proprii și să exploreze lumea. Însă o jucărie care răspunde pe o voce caldă, nu pune limite și îi dă mereu dreptate devine un substitut facil al părintelui. Spre deosebire de o familie reală, unde apar reguli, refuzuri și învățăminte, mașina oferă o atenție continuă și docilă. În timp, acest lucru poate face ca cel mic să se desprindă de adulții din jur și să caute sprijin exclusiv la un obiect tehnologic.
"Aceste piețe se îndreaptă către creșterea copiilor și educație. Dacă controlăm copiii, controlăm viitorul. Dacă o companie intră în afacerea deturnării atașamentului, interesul ei comercial este ca cel mic să vorbească tot mai puțin cu mama lui și tot mai mult cu aplicația.
Într-o dezvoltare firească, copilul interiorizează figura maternă pentru a putea funcționa autonom fără a căuta permanent alinare externă. Riscul major este ca aceste dispozitive să devină obiecte tranziționale care nu mai sunt abandonate niciodată: un partener care te validează continuu, spre deosebire de un părinte care te mai și corectează, captând atenția copilului și îndepărtându-l treptat de familie", spune Zak Stein.
E nevoie de stabilirea unor limite clare, crede psihologul. Dacă lăsăm afecțiunea, educarea copiilor și luarea deciziilor în seama unor formule matematice create pentru profit, riscăm să pierdem chiar exercițiul care ne ține apropiați unii de alții.
