[AI & me] Andrei Colțea: AI poate fi o mască, dar poate fi și o oglindă

Ne aflăm în fața celei mai importante schimbări din ultimele secole, spune antropologul Andrei Colțea, așa că rămâne să vedem dacă suntem pregătiți să-i facem față sau adaptarea la tehnologiile AI ne va da sistemul peste cap. Andrei nu exclude apariția psihologilor specializați în gestionarea relației între oameni și AI. 

"AI-ul de top funcționează ca o cutie neagră și poate produce cu siguranță combinații originale, în aceeași măsură în care și oamenii sunt capabili de asta", spune Andrei.

Putem doar să sperăm că nu ne îndreptăm cu viteză maximă spre un zid sau o prăpastie, speră Andrei. Cum vede el începutul acestei noi lumi, citiți în rândurile de mai jos:

Cum te raportezi tu la AI

Cu o oarecare curiozitate precaută, combinată uneori cu încântare privind capacitățile din ce în ce mai utile (urăsc, de exemplu, să scriu cu diacritice, iar un LLM decent îmi poate rezolva problema asta în câteva secunde) și cu îngrijorare privind utilitatea acelorași capacități pentru scopuri distructive.

Prima schimbare pe care ai simțit-o odată cu apariția AI-ului

Social media s-a umplut de ‘umplutură’, de conținut produs de AI care o face din ce în ce mai puțin utilă ca instrument de informare și comunicare. Ăsta e doar începutul. În timp, social media își va pierde total configurația de astăzi, și va dispărea sau va evolua în ceva extrem de diferit. Nu pot să anticipez exact în ce… dacă aș putea, probabil aș investi în sensul asta.

Schimbă AI ritmul lumii sau direcția ei?

Cred că AI reprezintă șocul de cea mai mare magnitudine din istoria speciei umane, posibil a vieții pe pământ. Pare o exagerare pentru unii în acest stadiu, dar ritmul și direcția lumii nu mai pot fi aceleași, și noi trebuie să fim pregătiți pentru asta. Viteza de schimbare a lumii a fost în creștere de câteva secole, odată cu industrializarea și globalizarea, lăsând în urmă oameni și comunități care au ajuns să deteste această globalizare și să încerce să se izoleze. AI va face această viteză să depășească capacitatea de adaptare chiar și a elitelor. Mai mult, direcția nu mai este una clară, prin urmare ne îndreptăm rapid spre necunoscut. Sunt șanse să iasă bine, dar riscurile sunt imense, iar omenirea cu siguranță nu este pregătită pentru ce va urma.

Ce aspect al vieții umane ți se pare cel mai vulnerabil în fața automatizării

E greu de stabilit care este cel mai vulnerabil, dar orice are legătură cu procesarea informațiilor va fi de nerecunoscut în câțiva ani. Nu vorbesc doar de IT sau contabilitate, ci și de medicină sau chiar sportul profesionist. Foarte puține domenii nu vor fi afectate serios, în momentul ăsta sincer nu îmi vine nici unul în minte. Combinat cu robotica, AI va schimba complet lumea din jur, dar și pe noi.

Ce înseamnă a gândi în era AI

A gândi riscă să însemne, mai mult decât în alte epoci, a ști să pui întrebări, și mai puțin a află răspunsuri. În general filosofia ne ajută să punem întrebările corecte, și putem aplica acest principiu la interacțiunea cu AI. Cu siguranță vom pierde anumite capacități cognitive… ni se vor atrofia. Mulți tineri de astăzi nu mai știu să citească un ceas analog, pentru că nu au avut pur și simplu nevoie. La fel, vom pierde anumite skill-uri, mai ales lingvistice și legate de un anumit tip de procesare a informațiilor, însă nu vom deveni neapărat mai puțin performanți cognitiv. Ne vom schimba.

Primele semnale pe care le detectezi într-o lucrare AI de orice fel

În primul rând stilul, în general prea ‘curat’ și prea ‘rece’, precum și structura impecabilă. Sincer, puțini oameni mai scriu așa în epoca social media. Se scrie emoțional și oarecum dezlânat, reflectând nu neapărat capacitățile autorului, cât preferințele publicului. Apoi, bineînțeles, în funcție de cât de bine cunoști autorul, identifici oarecum cu ușurință nivelul de ‘contribuție’ AI. Limbajul AI tinde de asemenea să devină standardizat.

Influența asupra limbajului

LLM-urile nu folosesc limba ca pe un calcul statistic, ci sunt un calcul statistic asupra distribuțiilor de cuvinte. Efectul inevitabil e legat de dispariția expresiilor și cuvintelor mai rar folosite… o anumită standardizare și omogenizare care îngreunează sau fac imposibilă evoluția limbajului. Ca și în natură, evoluția are loc acolo unde există diversitate.

LLM-urile nu pot reproduce diversitatea lingvistică (regionalisme de exemplu) care face din limba română una foarte bogată, din cauza aspectului statistic menționat mai sus. Mai departe, textele produse de AI devin ‘antrenament’ pentru alte texte produse de AI, dând naștere unui ciclu de sărăcire a limbii. Efectele încă nu se văd în offline, însă postările pe social media sunt din ce în ce mai sărace în idei și limbaj.

Poate un model antrenat pe tot ce s-a gândit deja să mai creeze ceva cu adevărat nou?

Cu siguranță! Noi înșine funcționăm cu elemente culturale și informaționale preluate de la ceilalți, mai puțin cu observații absolut inovatoare, și suntem totuși capabili să le recombinăm în idei originale. AI-ul de top funcționează ca o cutie neagră și poate produce cu siguranță combinații originale, în aceeași măsură în care și oamenii sunt capabili de asta. Ca și un AI performant, mintea noastră e un sistem complex, care compune și descompune idei, într-un mod imposibil de urmărit. Acest tip de fenomene se numesc ‘emergente’. Mă aștept chiar ca AI să creeze idei mai bune și mai originale decât noi în anumite domenii complexe în care ne-am atins limitele cognitive.

Percepția oamenilor vizavi de propria persoană

Cu siguranță nu ajută la stima de sine. Cred totuși că ne vom adapta la asta în timp, psihicul uman are un talent incredibil de reconstrucție a stimei de sine. Nu mă îngrijorează foarte tare acest aspect, însă cu siguranță vor avea loc schimbări radicale și în această privință. Vor apărea cu siguranță psihologi specializați în gestionarea relației între oameni și AI.

Efectele asupra răbdării, efortului, muncii, eșecului

Viteza la care se mișcă lumea a crescut exponențial în ultimele decenii și abia dacă mai facem față noilor trenduri, informații și evoluții. A scăzut și capacitatea de a aștepta până la obținerea lucrului dorit. Vrem rezultate instant și nu mai suntem capabili să gândim pe termen lung, și asta funcționează oarecum, pentru că pe de o parte nu mai e nevoie să ne amânăm satisfacția, iar pe de altă complexitatea crescută face viitorul imprevizibil, ceea ce face din ‘aici și acum’ singurul mod de viață rațional.

Polarizarea & algoritmii

Trebuie doar să ne uităm în jur. România poate fi un studiu de caz excelent. Într-un cuvânt, vorbim de polarizare. Opiniile și ideile extreme, excentrice, au fost în general moderate de societate, pentru a reduce riscurile asociate la nivel individual și colectiv. Dacă ideile extreme (în majoritate proaste, de aceea deciziile în societățile democratice se iau prin consens și negociere) sunt ranforsate fie și de un algoritm de inteligență artificială, rezultatul nu poate fi decât o fractură față de cei de părere opusă, un rift peste care nu mai există poduri.

Vedem acest efect în urma targetarii social media, care, comparativ cu capacitățile actuale ale LLM-urilor, folosea algoritmi rudimentari. Polarizarea din România de azi (și nu numai) a fost creată practic de acești algoritmi. Divergențele existau, însă au existat întotdeauna mecanisme sociale și instituționale, formale și informale, de rezolvare a lor. Social media a erodat aceste mecanisme, iar AI va amplifica acest fenomen. Totuși, folosit corect, AI poate fi antrenat și să nu facă asta. Eu îl folosesc și ca un fel de motor de căutare avansat, și l-am instruit precis pentru a elimina acest comportament. Nu știu dacă funcționează 100%, dar ajută.

Pericolele pe care nu le vedem

Pericolul îl reprezintă scăderea diversității surselor și a capacității de a gândi critic. Din alt punct de vedere, AI-urile vor ajunge să ne cunoască mai bine decât ne cunoaștem noi înșine, fie și doar în baza întrebărilor pe care le punem. Nu știm cine va folosi aceste informații și în ce scop. Am văzut că efectele politice de exemplu pot fi devastatoare. Dar subiectiv vorbind, dacă AI va ajunge să înlocuiască total sau parțial anumite instanțe psihice, va trebui să ne restructurăm psihicul pentru a fi cu adevărat funcționali. Nu știu câți dintre noi sunt capabili de așa ceva.

Relația care începe să se formeze între oameni și AI

Riscurile sunt reprezentate la nivel psihologic de antropomorfizare. Adică a atribui unor obiecte, animale sau chiar idei abstracte trăsături umane. Având în vedere tipul de output oferit de AI, antropomorfizarea practic nu mai poate fi evitată, chiar și la cei mai precauți dintre noi. Tot ceea ce putem face e să nu o lăsăm să ajungă la un nivel patologic. Sunt convins și că asta se va întâmpla pentru foarte mulți oameni, însă în acest patologic poate exista și ceva terapeutic.

AI este un fenomen extrem de complex și indiferent ce vă vor spune experții efectele sale mai ales la nivel psiho-social sunt imposibil de anticipat. În concluzie, aș defini această relație ca antropomorfizare cvasi-patologică și dependență cognitivă. Riscurile sunt, evident, imense, însă există și posibilitatea ca acest tip de relații să ajute mulți oameni să depășească anumite probleme de natură psihologică sau socială, pe lângă a ne face mai performanți în multe privințe.

Singura specie care gândește?

Nu am fost niciodată singura specie care gândește, asta vine din ceea ce se numește antropocentrism. Și alte specii folosesc un limbaj relativ complicat, nu atât de mult că specia noastră, dar e mai mult o diferență de grad. NU există nici o discontinuitate între noi și regnul animal, așa cum ne-ar plăcea să credem. Prin urmare epoca AI doar introduce un actor care, în anumite procese, performează mai bine decât creierul uman. Unicitatea noastră nu e dată de o calitate sau alta, ci de o combinație a mai multora. Acest lucru va rămâne valabil. Poate combinația dintre etică, rațiune și capacitatea de introspecție să fie un răspuns, însă eu nu consider că oamenii sunt ființe neapărat ‘speciale’, care au o calitate definitorie.

Cum se schimbă perspectiva asupra realului

Ceea ce numim real este o rezultantă a unor procese cognitive de separare a informației între semnal și zgomot, respectiv de organizare a acestor semnale în sisteme complexe de sens (religii, ideologii, paradigme). Am scris despre asta în ‘Complexifying Religion’. AI pur și simplu va reorganiza aceste procese și sistemele rezultate. Cu alte cuvinte, va redefini complet realul. Dacă credeți că exagerez, amintiți-vă cum arăta lumea înainte de social media.

Granițele etice care se trasează în aceste zile

Problema e că trăim o perioadă de haos, în care aceste granițe etice nu prea se trasează. Există logici și modele de reglementare divergente, care se intersectează doar accidental. Există un model european, care în opinia mea gestionează cel mai bine riscul, apoi unul american, mai liberal, bazat pe autoreglementare, care crește exponențial riscurile, și unul chinezesc, bazat pe alinierea la anumite valori și controlul extrem al outputului în acest sens. Ar trebui să ne punem o grămadă de întrebări: de la ‘ce informații se pot folosi pentru antrenament?’ la ‘Este necesară semnalarea clară a originii AI a unui conținut, în parte sau total?’ și până la ‘Cum prevenim concentrarea puterii în mâinile câtorva actori, care vor ajunge să controleze infrastructura cognitivă a întregii noastre civilizații?’. Avem nevoie de timp pentru a înțelege și gestiona toate aceste probleme, și multe altele, însă viteza la care evoluează tehnologia nu ne dă acest timp.

Cum influențează AI relația noastră cu noi înșine

Bună întrebare… probabil ar trebui să reînvățăm cine suntem și care e locul nostru aici. Un răspuns mai degrabă budist, dar cred că am uitat aceste lucruri, asurziți de mesaje despre cât suntem de speciali și despre cum trebuie să arătăm asta (în general cumpărând ceva). AI poate fi o mască, dar poate fi și o oglindă.

Frica ta cea mai mare vizavi de AI. Și speranța

Nu mai am nicio îndoială că AI va schimba complet lumea în care trăim și va redefini radical locul nostru în ea. Nu mai este o frică deja, e o certitudine. Speranța e că această schimbare va fi, în mare măsură, pozitivă. În caz contrar, specia noastră nu poate supraviețui detronării sale din postura de deținătoare a celui mai perfomant algoritm de procesare a informațiilor de pe Terra. Repet, nu suntem pregățiți pentru aceste schimbări, pentru magnitudinea și viteza lor. Nu știm încotro ne duc. Putem doar să sperăm că nu ne îndreptăm cu viteză maximă spre un zid sau o prăpastie.