[AI & me] Dragoș Cîrneci: Oamenii nu ar trebui să lase alte entități – AI sau altele care vor apărea – să tragă concluzii în locul lor, să decidă în locul lor

AI-ul cucerește din ce în ce mai mult teren în viețile noastre, iar valul de schimbări pare inevitabil. Cum ne schimbă asta ca oameni, cum ne influențează percepția, munca și alte aspecte ale vieții, ce măsuri putem lua, sunt printre subiectele pe care le-am abordat în discuția cu Dragoș Cîrneci, Conf. Univ., psiholog și cercetător în neuroștiințe.

"Nu AI-ul îi lasă pe oameni fără job. Oamenii care îi conduc îi lasă pentru că în unele activități este mai bun un AI și în felul acesta, aplicând principiile manageriale ale eficienței și profitului, unii oameni vor vrea să facă mai mulți bani folosind această nouă metodă", spune Dragoș. 

Creierul uman este construit la fel ca mușchii: se atrofiază dacă nu îl folosim. Dacă nu învățăm mereu și nu rezolvăm probleme noi ajungem mai repede la demență, spune Dragoș. Dar problema nu e reprezentată de softuri, ci de cum pot fi ele folosite de mintea umană. Speranța rezidă în cele din urmă în instinctul omenirii de conservare.

Cum te raportezi la AI

Atunci când am o bănuială, sau să îi spunem ipoteza, consult AI-ul din cadrul motorului de căutare Google. Dar întotdeauna merg apoi să verific în sursele pe care le sugerează și AI-ul și alte căutări Google. S-a întâmplat în mai multe rânduri să primesc răspunsuri greșite sau depășite. Deci iau răspunsurile AI că pe un prim pas în a investiga ceva, însă știu că, cu cât ceea ce caut este mai nou, sunt șanse mai mari să primesc un răspuns care nu mai este valabil, dar care era până mai ieri.

Cum schimbă AI ritmul și direcția lumii 

AI-ul crește viteza de informare și scade efortul. Asta este clar. Însă, așa cum spuneam, încă nu reprezintă o garanție a veridicității informației. Viteza de informare schimbă ritmul, iar efortul scăzut indică direcția. Creierul uman va tinde să prefere AI-ul pentru a se informa pentru că așa este construit. Să meargă în direcția consumului mai mic de energie. Preferința pentru AI nu are legătură cu moralitatea, în sensul că nu ar fi frumos să iei totul de-a gata, ci cu modul de construcție a creierului care are la bază alocarea predictivă de energie pentru diverse acțiuni.

Ce aspect al vieții umane ți se pare cel mai vulnerabil în fața automatizării

Tot ce înseamnă algoritmi. Cu cât o muncă este mai procedurizată cu atât ea este mai vulnerabilă de a fi înlocuită de AI. Asta înseamnă zona de mijloc a meseriilor. Cele de la bază, care presupun efort fizic, deocamdată mai greu vor fi înlocuite (probabil din rațiuni de costuri în construcția roboților) iar cele care se bazează pe euristici, pe creativitate, deocamdată par a fi mai în siguranță. Deocamdată. Este adevărat că de o vreme AI-ul este folosit în a compune muzică, dar exemplul nu este unul relevant. Și până acum se plagia în muzică, și fără AI. În domeniul meu, în știință, AI-ul este folosit pentru a căuta rezultate deja publicate dar nu știu să fi fost folosit în a genera noi ipoteze experimentale.

Ce înseamnă a gândi în era AI

Din păcate, a gândi tot mai puțin. Și a învăța tot mai puțin. Și a fi tot mai puțin originali. Oamenii cu cât au o viață mai ușoară tind să fie tot mai puțin inovativi/creativi. Nu că nu ar dori, dar se pare că nu le mai iese. Uitați-vă la muzică. Studiile publicate în anii 2000 în marile reviste de știință arată că muzica a devenit tot mai puțin inovatoare și mai puțin complexă în secolul XXI comparativ cu anii 70, 80 ai secolului trecut. Și asta până să fi intrat în epoca AI-ului. Pentru a te diferenția, mai întâi trebuie să fi făcut mari eforturi de a cunoaște. AI-ul reduce tocmai acest efort.

Care sunt primele semne pe care le detectezi într-o lucrare AI 

Nu sunt specialist în asta. În domeniul meu pot recunoaște un eseu/referat realizat prin AI pentru că are un tipic de construcție a paragrafelor, de sumarizare și concluzionare. Și tinde să nu ia în calcul teoriile/datele cele mai noi ci pe cele devenite tradiționale deja. Dar nu pot răspunde pentru alte domenii.

Influența asupra limbajului

Ca principiu, ar trebui să apară mai mult anumite cuvinte/expresii care au fost folosite mai des în trecut, deci pe care le selectează LLM-urile ca fiind relevante, dar nu știu care este oul și care găina în ecuația asta.

Poate un model antrenat pe tot ce s-a gândit deja să mai creeze ceva nou?

Creativitatea înseamnă combinarea informațiilor deja existente legate de o situație, lucru sau domeniu. Cel puțin, așa face creierul uman. Însă aici apare o chestiune de nuanță. LLM-urile sunt mașini probabilistice. La fel și creierul uman. Doar că în creierul uman mașinăria probabilistică funcționează diferit în funcție de cum evaluează mediul. Pe fond de amenințare creierul generează informație folosind probabilistici cât mai exacte, în timp ce pe fond de relaxare, aceeași mașinărie folosește probabilistici foarte laxe, și chiar le combină cu elemente care par complet random. De aceea creativitatea nu este maximă când suntem foarte concentrați ci în momentele când creierul pare “în pauză”, înainte de culcare sau pe fondul consumului unor substanțe. Asta diferențiază creierul de modelele LLM. De asta spuneam ceea ce spuneam la întrebarea 3.

Perspectiva asupra muncii

Aș spune un lucru care nu prea e spus. Nu AI-ul îi lasă pe oameni fără job. Oamenii care îi conduc îi lasă pentru că în unele activități este mai bun un AI și în felul acesta, aplicând principiile manageriale ale eficienței și profitului, unii oameni vor vrea să facă mai mulți bani folosind această nouă metodă. Deci este de fapt o problemă veche într-o manifestare nouă. Ea s-a pus și odată cu mașina cu aburi și revoluția industrială, cu apariția roboților sau a computerului. Iar majoritatea oamenilor încă nici nu s-au lovit de ea, pentru că AI-ul încă la ora actuală este mai mult reclamă decât performanță. Dar inevitabilul se va produce.

AI-ul promite mult și repede. Care sunt efectele asupra răbdării, efortului, muncii, eșecului?

Învățarea depinde de efortul pe care îl facem atunci când procesăm informația. Se numește faza de encodare. Cu cât efortul e mai mare, atenția mai concentrată sau emoția mai intensă are loc învățare mai rapidă. Dacă ni se livrează mai ușor informație gata procesată nu apare învățare. Dacă nu căutăm noi informația pe care să o procesăm critic, ne este afectată rezolvarea de probleme și luarea deciziei. Dacă stăm mereu pe filmulețe de câteva secunde ne scade capacitatea de a aloca atenție susținută. Dacă tot ce avem nevoie ne este livrat la un click distanță ne scade răbdarea, devenim impulsivi și tindem să procrastinăm activitățile care nu ne dau recompense imediate. Unele sisteme AI ne livrează doar ce vrem să auzim și în felul acesta ni se crează o imagine falsă că tot timpul avem dreptate. Ceea ce este bine din punct de vedere al stresului dar ne conduce la a face prostii.

Când ni se oferă doar opinii pe placul nostru

Sunt mai multe sisteme AI. În cazul unora s-a dovedit că sunt construite pentru a fi pe placul utilizatorului, pentru a-l face cumva dependent de el. Ca într-o relație furnizor-client. Evident că ele sunt construite pentru a selecta informație probabilistică deci opiniile divergente de cele mainstream vor fi defavorizate. Dar în știință lucrurile stau puțin altfel. Nu se lucrează cu opinii ci cu două categorii de afirmații – ipoteze și “facts” (adică adevăruri dovedite științific). Iar o ipoteză nevalidată încă nu poate fi folosită pentru a explica un fenomen. Deci problema nu este cu opiniile divergente ci cu selecția probabilistică a informațiilor în funcție de cât de mult au fost ele în trecut folosite pentru a explica ceva și nu în funcție de cât sunt ele de probate științific cu tehnologie de ultima ora. Spre exemplu, AI-ul îți va spune că în creier există un centru al emoțiilor și acela este amigdala deși în ultimii ani acest lucru a fost invalidat.

Relația care începe să se formeze între oameni și AI

Oamenii nu ar trebui să lase alte entități – AI sau altele care vor apărea – să tragă concluzii în locul lor, să decidă în locul lor. AI-ul poate fi folosit spre a ne furniza informații dar noi trebuie să le analizăm și să decidem. Și să ne asigurăm că ce am primit ca informații este relevant, corect, complet. Adică din când în când să corectăm temele AI-ului așa cum le corectăm pe ale copiilor. În orice domeniu volumul de informații este atât de mare încât orice om este depășit la ora actuală. De aceea avem clar nevoie de ajutorul AI. Dar am spus în ce condiții. Și este important să știm că creierul uman este construit ca și mușchii să se atrofieze dacă nu îl folosim. Dacă nu învățăm mereu și nu rezolvăm probleme noi ajungem mai repede la demență. Și pînă acolo ne prostim. Nu mai suntem în stare să facem efort mental, să avem gândire critică, tragem concluzii pripite și dacă nu avem telefonul la noi nu știm nici să mai facem o înmulțire.

Schimbarea definiției: Omul, singura specie care gândește

Oricum și afirmația cu singura specie care gândește nu era valabilă științific nici până acum. Majoritatea oamenilor nu cunosc mare lucru despre alte specii. Poate doar cum se pot găti. Dar în știință se știe că diverse calități umane se regăsesc la multe specii, unele mai puțin dezvoltate decât la om, iar altele, surprinzător, la fel de dezvoltate sau chiar mai dezvoltate. Spre exemplu o pasăre colibri are o memorie episodică comparabilă cu a unui student iar cimpanzeul are o memorie spațială superioară omului. AI-ul deocamdată excelează în folosirea probabilistică de limbaje și mai puțin în alte forme de procesare a informației. El selectează ce am pus noi pe internet după un algoritm creat de oameni. Vom vedea cum va evolua.

Cum se schimbă perspectiva asupra realului

Asta este o problema, pentru că AI-ul poate genera informații comparabile cu cele reale și așa apar fake news care pot manipula într-o manieră foarte periculoasă. Iar afirmația „nu cred până nu văd” nu își mai are sensul. Aici trebuie să apară reglementările, pe de o parte, și educarea spre conștientizare a oamenilor, pe de altă. Asta strict legislativ. Altfel, în psihologie și în neuroștiință se cunoaște că percepția noastră despre lumea din jur este o construcție probabilistică a creierului, subiectivă, dependentă de experiența personală și starea afectivă. Adică un film care folosește trecutul pentru a genera viitorul. Iar „prezentul” în creier nu există. Deci realitatea în sens strict era și pînă acum discutabilă. Odată cu AI-ul s-a lărgit această chestionare a realității.

Cum influențează AI relația cu noi înșine

Un principiu simplu. Cu cât ai o muncă mai procedurizată, mai repetitivă, cu atât îi este mai ușor unei mașini să o facă în locul tău. Fiecare ar trebuie să își descopere punctele care îl diferențiază, îl fac mai altfel. Prin felul în care gândește, lucrează sau face față la schimbări. Pentru că, probabil, doar așa va avea un viitor.

Frica ta cea mai mare vizavi de A

Nu am frici față de softuri. Am frici de cum ar putea unii oameni să le folosească. Nu cred că ei ar putea fi influențați de empatie sau moralitate. Dar mizez pe instinctul lor de conservare.