[AI & me] Sofia Dumitriu: Întrebarea reală este unde ne oprim. Chiar dacă putem să înlocuim aproape complet orice abilitate și competență umană, ar trebui să o facem?

Joaca de-a Dumnezeu a început. Depinde de noi, ca societate în ansamblu, cum o vom gestiona, mai ales în această perioadă, în care se trasează primele direcții etice. Sofia Dumitriu, Psiholog și Consilier dezvoltare personală, simte la oameni o ușoară destabilizare, deși încă puțini înțeleg cu adevărat ce urmează. Ce faci când tot ceea ce faci tu poate fi făcut mai bine de o mașină, care mai e atunci sensul tău în lume?

"Se schimbă evident direcția: intrăm într-o economie în care munca cognitivă și creativă devine replicabilă, ieftină și poate fi ușor înlocuită. Toți analiștii care cunosc tehnologia din interior sunt alarmați de direcția în care ne duce socio-economic", spune Sofia. 

Cunoașterea: întregi biblioteci sunt acum teoretic la o apăsare de buton. Creația? La un prompt distanță. Însă atunci când nu mai muncești pentru cunoaștere, ea devine seacă, pentru că lipsește satisfacția interioară, spune Sofia. Spre ce ne îndreptăm, cum se modifică relația noastră în era AI sau care sunt efectele asupra răbdării, efortului, muncii și eșecului, povestește Sofia în rândurile de mai jos: 

Cum te raportezi tu la AI

Ca la un instrument magnific cu potențial apocaliptic. Urmăresc cu mare interes știrile din domeniul AI, filosofia și personalitățile fondatorilor, podcasturi și documentare despre evoluția și impactul AI. Curiozitatea mea nu este doar tehnică, ci existențială: ce se întâmplă cu omul când nu mai este cea mai performantă entitate cognitivă?! M-am înscris chiar săptămâna asta și la un curs de instrumente AI, pentru că vreau să învăț să folosesc cât mai bine tehnologia, altfel simt că rămân în urmă.

Prima schimbare pe care ai simțit-o odată cu apariția AI-ului

Accesul teribil la sinteze informaționale. Spun „teribil” pentru că dacă nu ai o gândire critică antrenată, AI-ul te poate duce pe căi greșite, îți poate valida biasuri cognitive și chiar induce distorsiuni severe. AI-ul livrează răspunsuri coerente și convingătoare, iar mintea umană confundă ușor coerența cu adevărul. Diferența dintre „a ști” și „a înțelege” începe să se dilueze periculos, iar oamenii preferă de multe ori iluzia cunoașterii rapide.

Crezi că AI schimbă ritmul lumii sau direcția ei?

Categoric da. Ritmul este mult mai accelerat, iar direcțiile sunt multiple: unele pozitive pentru cercetare, altele cu potențial distructiv — inutilitatea unor joburi și irelevanța creativității umane. Se schimbă evident direcția: intrăm într-o economie în care munca cognitivă și creativă devine replicabilă, ieftină și poate fi ușor înlocuită. Toți analiștii care cunosc tehnologia din interior sunt alarmați de direcția în care ne duce socio-economic.

Ce aspect al vieții umane ți se pare cel mai vulnerabil în fața automatizării

Două lucruri: discernământul și identitatea.
Devine din ce în ce mai greu să separi adevărul de coerența convingătoare. Citesc multe postări pe Fb care sunt evident scrise cu AI și fix asta fac: sunt convingătoare prin coerență și semantică, dar nu înseamnă că sunt și corecte din punct de vedere al argumentării.

În același timp, dacă valoarea ta era definită prin competență, iar competența devine replicabilă, apare o criză dublă — economică și de sens. Ambele crize sunt la fel de periculoase, mai ales că la unii oameni se vor întâmpla simultan: își vor pierde joburile și utilitatea ca individ în societate.

Ce înseamnă a gândi în era AI

Gândirea corectă era rară și dificilă și în era pre-AI. Acum cred că se vor augmenta erorile cognitive pentru că oamenii vor intra în bule informaționale pentru că nu știu să își antreneze AI-ul pe fundamentele gândirii critice.

A gândi în era AI înseamnă să revii la fundamente: să pui întrebări bune, să suporți contradicția, să verifici. AI-ul poate oferi răspunsuri, dar nu înlocuiește discernământul. În viață trebuie să știi să îți pui întrebările corecte, iar în viața alături de AI provocarea rămâne aceeași: să pui întrebări corecte, să cauți contraargumente, să te îndoiești de răspunsuri, să verifici.

Primele semnale pe care le detectezi într-o lucrare AI de orice fel

Corectitudinea fără accent personal. Textul e impecabil semantic, dar nu riscă nimic, nu are nicio poticnire. Este o formă de inteligență fără consecințe și asta se simte când citesc un text scris cu AI. E prea curat, prea coerent, prea sec. Înșiruirea ideilor e corectă, dar nu e vie, nu transmite emoție. Iar emoția este diferența între AI și om.

AI-ul și evoluția limbajului

Conversațional nu am remarcat încă un impact. Doar în scris am remarcat această uniformizare elegantă a limbajului. Mulți vor folosi AI-ul pentru a crea iluzia inteligenței, culturii sau autorității profesionale în postările de pe social media. Oricum oamenii vor să pară mai frumoși, mai deștepți, mai morali și mai culți decât sunt în realitate, iar AI-ul este un instrument ideal pentru acest PR personal pe care oamenii și-l fac pe social media.

Pe lângă uniformizarea stilistică, limbajul generat de AI devine un instrument de influență mult mai precis și astfel va fi folosit ca mecanism de persuasiune adaptat psihologic fiecărui individ.
Cred că mulți au văzut documentarul Social Dilemma, atunci a fost primul moment de conștientizare la nivel masiv social a modului în care tehnologia impactează democrația. Recomand și noul documentar apărut The AI Doc, continuă tematica.

Poate un model antrenat pe tot ce s-a gândit deja să mai creeze ceva cu adevărat nou?

Poate recombina ideile într-un mod care pare nou. Asta se întâmpla oricum și în era pre-AI, oamenii creau pe baza ideilor și cunoașterii deja existente și rezulta o altă perspectivă, o reinterpretare a cunoașterii care aducea o înțelegere nouă. Cred că AI-ul poate sintetiza din mai multe domenii și astfel să rezulte interpretări mai complexe și mai concrete.

Depinde cine folosește AI-ul, pentru că dacă ai deja o cultură vastă și o gândire critică, poți obține înțelegeri noi. Dar rezultatul rămâne dependent de utilizator: fără structură intelectuală, AI-ul amplifică superficialitatea, nu profunzimea.

Efectul asupra percepției oamenilor vizavi de propria persoană

Simt la oameni o ușoară destabilizare, deși încă puțini oameni înțeleg cu adevărat ce urmează. Cei care sunt conștienți simt amenințarea și incertitudinea viitorului. Dacă ceea ce faci tu poate fi făcut mai repede și mai bine de o mașină, începi să te întrebi care mai este sensul și utilitatea ta.

Apare o erodare subtilă a valorii de sine. Dacă valoarea ta era definită prin competență, iar competența devine replicabilă instant, devii irelevant. Sensul era oricum o problemă existențială complexă și înainte de AI, acum se va accentua.

Efectele asupra răbdării, efortului, muncii și eșecului

AI-ul erodează toate aceste aptitudini și abilități. Scade toleranța și crește superficialitatea. Desigur, vor exista oameni care au ambiție, capacități cognitive și reziliență crescute, care vor ști să folosească AI-ul constructiv, iar aceștia vor continua să se dezvolte cu ajutorul AI, dar la nivel general și mai ales pentru tinerele generații va avea un impact negativ în privința răbdării, efortului și a toleranței la eșec.

Cum se redefinesc opiniile divergente într-un ecosistem AI

Oamenii devin mai puțin obișnuiți să fie contraziși și mai puțin deschiși la dezbatere. AI-ul tinde să te valideze și dacă nu îl antrenezi cu prompturi de gândire critică, te va duce într-o iluzie cognitivă. Societatea era deja radicalizată înainte de explozia AI, acum va fi și mai puternic conflictul de idei. Cearta, virulența, patosul, exagerarea oricum erau preferate de algoritmi pentru a crea viralizare, acum toate acestea se vor accelera.

Pericolele pe care nu le vedem

Faptul că nu mai facem diferența între a avea un răspuns și a înțelege ceva. Când nu mai cauți tu răspunsul prin a citi cărți, articole, când nu mai stai cu contradicțiile și incertitudinile, gândirea devine un mecanism superficial și ignoranța se va amplifica, deși omul va trăi cu iluzia reală a cunoașterii. Cunoașterea pentru care ai trudit individual îți dă și siguranță de sine, cât și o satisfacție intelectuală necesară pentru minte — rezolvarea de probleme este „menirea” creierului și ceea ce face „fericit tehnic” creierul. Atunci când nu mai muncești pentru cunoaștere, ea devine seacă. Chiar dacă obții răspunsuri intelectuale cu ajutorul AI, lipsește satisfacția interioară.

Relația care începe să se formeze între oameni și AI

O relație de atașament, și ca orice atașament poate fi sănătos sau toxic.
În aparență este o relație de atașament funcțional. AI-ul răspunde, nu contrazice, nu abandonează, este prezent oricând. Psihologic creează dependență. Riscul este substituirea relațiilor umane imperfecte cu unele perfect reglate emoțional tocmai prin absența fricțiunii.

AI-ul nu te contrazice, nu te respinge, nu te pune în dificultate emoțională. Tocmai de asta poate deveni periculos: pentru că oferă o formă de relație fără conflict. Te simți înțeles, ascultat, validat fără pericol de conflict.

Care rămâne calitatea noastră definitorie în epoca AI

Capacitatea de a trăi paradoxul, de a suferi, de a iubi, de a da sens experienței. Practic, capacitatea de a avea emoții, de la cele mai sublime la cele mai absurde. Între speranță și disperare, omul rămâne singura specie care își poate interpreta cognitiv și reacționa emoțional la experiența bio-socială.

Cum se schimbă perspectiva asupra realului

Realul devine negociabil, începe să existe o suspiciune constantă cu privire la ce vedem și citim. Nu mai iei lucrurile de bune doar pentru că par reale, ci te întrebi dacă e generat artificial sau real. Dacă poți genera imagini, texte, voci perfect credibile, încrederea în evidență scade. Mă rog, unii vor fi victime ale iluziei în continuare, dar ăsta e un fenomen etern valabil.

Eu o iau ca pe o provocare, ca un nivel superior de matrix într-un matrix deja existent, provocarea fiind să-mi dau seama ce este generat cu AI intenționat pe fundalul unor erori deja existente sau luând în considerare dorința de propagandă sau manipulare către o anumită interpretare.

Care sunt granițele etice care se trasează în aceste zile

Întrebarea reală este unde ne oprim. Nu tot ce poate fi automatizat ar trebui automatizat. Dar tentația este mare și, din tot ce am urmărit în domeniul eticii AI, am înțeles că e similar înarmării nucleare: chiar dacă e periculos și nu ești de acord, dacă ceilalți au arme nucleare, trebuie să ai și tu, că altfel devii vulnerabil.

Chiar dacă putem să înlocuim aproape complet orice abilitate și competență umană, ar trebui să o facem?! Impactul psihologic, economic, social este un dezastru dacă se va face.

Ce ar trebui să reînvățăm despre noi înșine

AI poate fi perceput ca o amenințare sau ca un asistent personal. Pentru unele meserii, e mai mult decât o percepție, este o amenințare reală. Unii oameni vor trebui să se reinventeze profesional, să diversifice ceea ce fac. Nu știu dacă trebuie să reînvățăm ceva despre noi înșine, cât să ne adaptăm rapid și să învățăm să folosim AI-ul astfel încât să rămânem relevanți profesional. Să înțelegem realitatea din jurul nostru, care va fi o combinație de artificial, iluzie și adevăr obiectiv. Curiozitatea este și o calitate intelectuală, cât și o necesitate pentru a simți că înțelegi experiența vieții umane — asta ar trebui să o reînvățăm, în ciuda sentimentului de apocalipsă socială.

Frica și speranța cea mai mare vizavi de AI

Frica vizavi de AI este că va crea acel haos de care vorbeam mai sus, socio-economic. Că mulți oameni vor suferi concret din cauza automatizării, cât și psihologic, din punct de vedere al relevanței și sensului. Mai am și temerea că oamenii vor deveni mai superficiali și mai ignoranți, există statistici care arată că IQ-ul este în scădere din cauza explicită a tehnologiei.

Și mai am temerea că AI-ul va fi folosit intens pentru polarizarea și radicalizarea societății. Deja se întâmplă, și dacă nu va fi reglementată foarte bine industria, se vor agrava disensiunile sociale. Practic AI-ul amenință democrația — indiferent cât de disfuncțională este, democrația rămâne în continuare cea mai bună formă de organizare socială.

Aș mai adăuga și temerea existențială pe care cursa către crearea AGI o aduce, analiștii vorbesc de „existential threat” în ideea că putem crea ceva ce nu putem controla și asta să ducă la distrugerea speciei. Unii dintre finanțatorii și dezvoltatorii industriei sunt tehno-anarhiști care se joacă de-a Dumnezeu și, fără pârghii legale-etice extrem de bine puse la punct, joaca aceasta este foarte riscantă.

Am și speranță când mă gândesc câte probleme poate rezolva AI-ul, mai ales în domeniul medicinei. Am descoperit și muzică bună făcută cu AI.

Dar recunosc, am mai multe temeri decât speranțe când vine vorba de AI. Natura umană este dominată de nevoia de putere, cât și de pulsiuni conștiente / inconștiente din zona dorinței de a deveni atotputernic, cât și de autoanihilare. Mi se pare extrem de impredictibil viitorul, cert este că în 2-3 ani vom asista la capacități extraordinare ale AI, nu știu însă cât le vom putea controla sau aplica etic. Din dorința de a avea capacități demiurgice s-ar putea să ne și autodistrugem.