Umanitatea este forțată să absoarbă trei mari revoluții simultan: o nouă formă de inteligență, o cursă imperială pentru a controla această inteligență și o explozie de date care îi permite algoritmului să ne cunoască mai bine decât o facem noi înșine, spune istoricul și filosoful Yuval Noah Harari. Dincolo de filmele SF cu roboți ucigași, Harari crede că ceea ce ar trebui să ne îngrijoreze sunt entitățile invizibile, birocrații AI care preiau controlul limbajului, sistemul nostru fundamental de operare.
Zeul-sclav
Harari atrage atenția asupra contradicțiilor din discursul companiilor din Silicon Valley: ne spun că vor crea un Zeus digital, dar care va rămâne sclav.
"O unealtă este ceva care nu poate lua decizii de una singură. Trebuie să decidem noi ce să facem cu ea și nu poate inventa idei noi. Tiparnița a fost o unealtă... Bomba atomică este o unealtă. O bombă atomică în anii '40 nu putea decide singură dacă să bombardeze Hiroshima sau Tokyo. Un agent, în contrast, este ceva care poate lua decizii singur și poate inventa idei noi. AI-ul este un agent. O armă AI poate decide ce să bombardeze și poate inventa următoarea armă", spune Harari.
Modelele din prezent și tranziția spre Agentic AI dovedesc capacitatea algoritmilor de a planifica, de a face propriile inferențe și de a lua decizii non-liniare în atingerea unui obiectiv, un salt major de la statutul de instrument pasiv.
Tot ce au construit oamenii de-a lungul istoriei, legi, piețe financiare, religii, s-a bazat pe comunicare și cuvinte. Odată ce inteligența artificială a descifrat limbajul, a spart codul sursă al civilizației noastre.
"Pentru prima dată în istorie va exista ceva pe planetă care se pricepe mai bine la cuvinte decât noi. Și dacă acesta este sistemul de operare al civilizației, ce se întâmplă când altceva, ceva extraterestru, preia controlul asupra sistemului de operare al civilizației? Poate AI-ul nu este o mașină care învață limbajul, poate că este limbajul însuși eliberându-se de dependența sa de aceste animale, de aceste maimuțe", spune Harari.
Ce se întâmplă cu democrația
Democrația nu poate exista fără un dialog între cetățeni.
"De fiecare dată când există o schimbare majoră în aceste tehnologii informaționale, ai un cutremur în clădirea construită deasupra ei, care este democrația. Și asta este ceea ce vedem în ultimii 10 ani... media socială a devenit poate cea mai importantă tehnologie informațională, provocând un cutremur masiv în democrațiile din întreaga lume", explică Harari.
Rețelele sociale guvernate de algoritmi au adus polarizare, bule informaționale și erodarea încrederii în instituții, spune istoricul.
Unul dintre cele mai periculoase puncte în evoluția umanității este posibilitatea ca AI-ul să primească personalitate juridică, așa cum au primit-o corporațiile de-a lungul istoriei.
"Niciun om nu este capabil să memoreze toate legile din Portugalia... AI-urile pot face asta. AI-urile sunt nativi birocratici. Dacă le dăm puterea legală, atunci ele probabil vor prelua aceste sisteme. Și dacă nu luăm nicio decizie, pur și simplu se va întâmpla de la sine, așa cum am văzut deja pe rețelele sociale", spune Harari.
Lupta împotriva dezinformării este inegală de la bun început, din motive ce țin de consumul nostru cognitiv.
"Adevărul este costisitor. Dacă vrei să știi adevărul despre orice, trebuie să cheltui mult timp, energie și efort pentru a-l căuta... Ficțiunea este foarte, foarte ieftină. Pur și simplu scrii orice vrei. Adevărul are o altă problemă: tinde să fie complicat, și oamenilor nu le plac poveștile complicate. Ficțiunea poate fi făcută oricât de simplă ai dori. În cele din urmă, adevărul este adesea nu doar complicat, ci și dureros... Ficțiunea poate fi făcută oricât de măgulitoare și plăcută vrei", explică Harari.
Un raport celebru publicat în revista Science în 2018 de cercetătorii de la MIT a dovedit că știrile false pe internet circulă, în medie, de șase ori mai rapid și mult mai departe decât informațiile adevărate tocmai pentru că răspund unor stimuli emoționali de noutate, fiind ieftine intelectual și atractive emoțional.
"Acum revoluția AI este despre a face inteligența foarte ieftină și abundentă. Inteligența este abilitatea de a rezolva o problemă... Dar într-o lume în care inteligența a devenit foarte ieftină, abundentă, în care poți rezolva orice, care este blocajul? Blocajul devine întrebarea: "OK, ce vreau să rezolv?"... Ai 3 dorințe. Dar gândește-te foarte bine ce vei cere, în aproape toate basmele merge prost. Oamenii cer lucrul greșit. Aceasta este diferența dintre inteligență și înțelepciune", spune Harari.
Companiile de tech investesc în capacitatea agenților AI de a îndeplini dorințe, lăsând în urmă bugetul alocat siguranței, auditului și alinierii cu valorile umane.
