Tot mergând pe calea algoritmilor, oamenii își pierd capacitatea de a înțelege ce se întâmplă, spune istoricul Yuval Noah Harari, într-un interviu acordat jurnalistului Daniel Stach pentru emisiunea cehă Hyde Park Civilizace.
Cel mai mare pericol
În viziunea lui Yuval Noah Harari, cel mai mare pericol pe care îl aduce dezvoltarea accelerată a inteligenței artificiale este degradarea treptată a capacității cognitive a societății.
Mecanismul este similar cu instalarea demenței la nivel individual: așa cum o persoană în vârstă își pierde treptat discernământul și capacitatea de a pricepe ce i se întâmplă, societatea umană riscă să devină incapabilă să mai înțeleagă funcționarea propriilor sisteme financiare, juridice și politice. Sistemul rămâne operațional datorită mașinilor, dar controlul și înțelegerea umană dispar complet.
„Pericolul mult mai mare este ceva de tipul unei demențe colective: pur și simplu ne pierdem capacitatea de a înțelege lumea. Știți cum oamenii care sunt foarte puternici și își controlează viața, atunci când suferă de demență pe măsură ce îmbătrânesc, își pierd capacitatea de a înțelege ce se întâmplă; îi poți ține în viață cu aparate și medicamente, dar ei au pierdut controlul, nu mai înțeleg ce se petrece. Iar eu mă tem de o demență colectivă a omenirii", explică Yuval Noah Harari.
Puterea oamenilor nu a venit din forța fizică, ci din abilitatea de a organiza sisteme mari și complicate — bănci, legi, state și monedă —, structuri prin care milioane de necunoscuți pot colabora. Totuși, creierul uman nu a evoluat pentru hârtii și cifre, ci pentru viața în natură. Pentru algoritmi, în schimb, mediul cifrelor și al reglementărilor este terenul ideal. Pe măsură ce rețelele financiare și juridice devin prea complexe pentru mintea umană, oamenii riscă să fie conduși de sisteme pe care nu le mai pot descifra.
"Pentru noi, birocrația este dificilă, este străină, deoarece suntem cu milioane de ani mai bătrâni decât birocrațiile. Pentru AI, birocrația este acasă. Sunt născuți la birou. Sunt nativi birocratici", spune Harari.
Istoria tehnologiei umane s-a bazat pe crearea unor unelte a căror utilizare morală și practică depindea de voința utilizatorului, fie că era vorba despre un cuțit sau despre energia nucleară. Sistemele actuale de inteligență artificială reprezintă primii agenți din istoria civilizației — entități capabile să ia decizii, să formuleze idei noi și să acționeze fără instrucțiuni umane pas cu pas, depășind adesea intenția creatorilor lor. AI va putea lua decizii pe cont propriu și va acționa în moduri neprevăzute chiar de cei care l-au programat, spune Harari.
"Toată tehnologia anterioară din istoria umanității a constat în unelte. Inteligența artificială nu este o unealtă. Este un agent. Un agent este ceva ce poate lua decizii de la sine și poate inventa idei noi de la sine, chiar lucruri pe care creatorii nu le-au dorit sau înțeles", spune Harari.
Imigranții digitali
Harari face o paralelă între dezbaterile aprinse despre imigrația umană și fluxul necontrolat de algoritmi: Oamenii se tem că imigranții le iau locurile de muncă, le schimbă cultura și nu sunt loiali țării în care vin. În realitate, imigranții AI le schimbă viața rapid, fără vize și fără controale de frontieră, preluând posturi calificate și transformând cultura.
"Dacă vă faceți griji legate de imigrație, îngrijorați-vă de imigranții AI. Aceștia vor schimba dramatic cultura și, cel mai important, nu au nicio loialitate față de Cehia sau Europa. Sunt loiali corporațiilor și guvernelor de peste ocean", spune Harari.
Jocul dublu
Dezvoltatorii de tehnologie promovează adesea ideea că avansul inteligenței artificiale este inevitabil și că societatea nu are altă opțiune decât să se conformeze. În același timp, există un dublu discurs: în discuțiile cu investitorii, companiile dau asigurări ferme că dețin controlul absolut asupra tehnologiei, dar în momentul în care apar erori, breșe de securitate sau daune sociale, pasează întreaga vină pe seama autonomiei sistemelor inteligente.
"În prezent, companiile susțin în continuare că știu cum să controleze AI-ul. Strâng trilioane de dolari pe piață pe baza acestor afirmații. Prin urmare, ar trebui să fie responsabile pentru ceea ce fac AI-urile lor. Joacă un joc dublu: când merg la investitori susțin că dețin controlul, dar când vine vorba de răspundere și responsabilitate legală, spun brusc: Nu avem nicio responsabilitate", spune Yuval Noah Harari.
Fluxul online
Încrederea oamenilor în instituțiile clasice a scăzut treptat, fiind înlocuită de dependența de platformele digitale. Pentru a menține atenția utilizatorilor cât mai mult timp pe ecran și a genera profit, algoritmii au exploatat un mecanism evolutiv arhaic — reflexul creierului de a acorda prioritate absolută semnalelor de pericol și amenințare. În loc să promoveze informații verificate și nuanțate, rețelele aleg să distribuie conținut senzaționalist, care stârnește mânie și teamă.
"Algoritmii au experimentat pe miliarde de cobai umani și au descoperit ceva: cel mai captivant lucru din lume nu este adevărul. Este indignarea. Iar algoritmii au început, așadar, să inunde rețelele sociale cu un conținut care nu este neapărat adevărat, dar care sporește indignarea, frica și lăcomia", explică Harari.
Riscul izolării
Folosirea asistenților virtuali de către copii aduce provocări noi în dezvoltarea emoțională a acestora. Într-o relație reală între doi oameni, fiecare învață treptat să țină cont de nevoile, supărările și limitele celuilalt. În schimb, un partener digital este setat să fie mereu docil și centrat în totalitate pe utilizator, ceea ce poate împiedica formarea răbdării și a empatiei necesare în conviețuirea cu ceilalți.
"Spre deosebire de ființele umane, unde într-o relație trebuie să înveți că ceilalți au sentimente și nu sunt complet concentrați pe tine, AI-urile nu au sentimente. Ele sunt în totalitate concentrate pe tine. Dacă formezi o relație cu un partener AI care este 100% concentrat pe tine, nu vei învăța niciodată cel mai important lucru despre relați", spune Harari.
Junk food mental
Harari propune o analogie directă între alimentație și consumul de informație. La fel cum societatea a impus etichete obligatorii pe mâncarea procesată (procentul de zahăr, sare, grăsimi saturate), spațiul digital ar trebui să aibă avertismente clare privind compoziția conținutului livrat de algoritmi.
"Informația este dieta minții noastre. Nu este sănătos să consumăm cantități enorme de junk food mental. Oamenii petrec atât de mult timp gândindu-se la dieta stomacului, merg la sală, mănâncă sănătos, dar acordă atât de puțin timp dietei minții, care este la fel de importantă", spune Harari.
Utilizatorul ar trebui informat explicit înainte de a deschide un flux: Acest conținut conține 40% indignare, 20% lăcomie, 20% frică.
