Găini, Wall Street, propagandă, sisteme autoritare, intimitatea în masă. Într-un dialog purtat la Praga, istoricul Yuval Noah Harari și jurnalistul Robert Guest, de la The Economist, au analizat implicațiile inteligenței artificiale folosindu-se de parabole, povestiri de la fermă, comparații cu evenimente istorice.
Găinile & Wall Street
AI învață pe parcurs, găsește soluții neașteptate și are implicații în toate domeniile, de la matematică la circuitele financiare. În momentul în care un sistem depășește omul, noțiunea de control devine o imposibilitate logică și biologică, crede Harari: la fel cum găinile nu înțeleg tranzacțiile de pe Wall Street, nici oamenii nu vor putea ghida sau chestiona o minte ale cărei calcule le depășesc capacitatea biologică de înțelegere.
„Găinile nu pot prezice ce face Wall Street. Să presupunem că o mare companie avicolă dă faliment fiindcă titlurile de stat americane pe 10 ani au ajuns la un randament de 5,3% și nu-și mai poate plăti datoriile. Îi lichidează activele, vin și omoară toate găinile. Iar una dintre ele, cea mai inteligentă, cere o explicație înainte să moară: Cred că înțeleg, vreți să ne mâncați. Așa stau lucrurile: vulpile ne mănâncă, urșii ne mănâncă, voi vreți să ne mâncați.
Oamenii îi răspund: Nu, nu vă mâncăm. Lichidăm totul și vă îngropăm aici.
Găina întreabă: Atunci de ce ne omorâți?
Iar ei îi spun: Ai văzut că obligațiunile americane pe 10 ani au atins un randament de 5,3%? De-asta vă omorâm.
Găina se scarpină în cap cu aripa: ce este o obligațiune? Și nici cel mai plin de compasiune activist pentru drepturile animalelor nu-i poate explica unei găini ce este un titlu de stat.
Aceștia suntem noi peste 10 ani. Noul sistem financiar bazat pe o nouă matematică a IA ne va spune: Vă închidem afacerea, vă concediem, iar când vom cere o explicație, ne va spune: E cu mult peste capacitatea voastră de înțelegere; am vrea să vă explicăm, dar creierul vostru pur și simplu nu poate procesa explicația”, explică Yuval Noah Harari.
Intimitatea industrială
Cum ajung oamenii să accepte și să folosească o tehnologie care le poate face rău? Prin propagandă. Dacă mașinăriile de propagandă din secolul XX căutau un numitor comun pentru toți ascultătorii de radio, iar platformele sociale au exploatat indignarea ca să ne țină lipiți de ecran, noile modele fac un salt calitativ: produc intimitate la scară industrială, crede Harari. Când un chatbot devine cel mai bun prieten al unui copil sau confidentul căruia îi mărturisești ce nu-i spui partenerului, el dobândește o forță de convingere fără precedent. Consecința este apariția unor generații care, obișnuite cu însoțitori sintetici mereu docili și atenți, nu vor mai avea răbdarea sau priceperea de a trăi alături de oameni reali, cu sentimente proprii, cusururi și contradicții.
"Pentru prima dată în istorie, creăm o tehnologie capabilă să producă intimitate în masă. Dacă vrei să convingi pe cineva să-și schimbe părerea despre un produs sau despre un om politic, atenția e bună, dar intimitatea este Sfântul Graal", spune Yuval Noah Harari.
Noul autoritasim
Regimurile totalitare din secolul trecut nu aveau capacitatea de a colecta și prelucra volume masive de informație, ceea ce le slăbea planificarea economică și limita supravegherea fiecărui cetățean în parte. Supravegherea algoritmică anulează această barieră, lăsând democrația fără argumentul eficienței economice și silind-o să se bazeze exclusiv pe argumentul etic, spune Harari. Mai grav, regimurile represive nu mai au nevoie să-și convingă cetățenii de o minciună oficială, ci doar să satureze spațiul public până când noțiunea de adevăr comun dispare, făcând orice solidaritate civică imposibilă.
"Pentru ca o democrație să se prăbușească, oamenii nu trebuie neapărat să-i creadă pe dictatori; e suficient să nu mai aibă încredere în nimeni. Democrația are nevoie de încredere și de acordul asupra unor fapte de bază pentru a funcționa", spune Yuval Noah Harari.
Vasalitatea tehnologică
Majoritatea țărilor riscă să devină simple terenuri de extracție sau vasali digitali, dependente de infrastructuri de calcul pe care nu le controlează. Argumentul companiilor de tehnologie, care susțin că ritmul inovației a depășit societatea și că orice încercare de reglementare e venită prea târziu, este o invitație la resemnare. Cum infrastructura independentă de calcul este prea scumpă pentru țări Cehia sau România, singura alternativă la pierderea suveranității rămâne unirea forțelor într-un bloc comun capabil să negocieze de la egal la egal.
"Toți ceilalți sunt pe meniu, nu la masă. Pentru puterile mici și mijlocii ale lumii, singura șansă este să se unească", spune Yuval Noah Harari.
Chiar dacă scenariul conturat este sumbru, fatalismul tehnologic nu este soluția. Societățile pot împiedica astfel de scenarii prin măsuri juridice clare, care să ancoreze tehnologia în limitele etice ale societății umane.
