[AI & me] Alexandru Docze: Trebuie să ne obișnuim cu toții cu ideea că, pentru a face față acestei lumi în continuă schimbare, trebuie să fim niște școlari permanenți

Ai terminat un liceu, o facultate, un master sau un doctorat și credeai că gata, școala vieții e terminată? Welcome to 2026. Nu poți sta o clipă locului, pentru că lumea se mișcă amețitor de repede, iar cine pune abecedarul AI pe raft, rămâne în urmă. Alexandru Docze, Inginer IT și doctor în filosofie, spune că pentru a ne adapta noii lumi trebuie să fim niște școlari permanenți. Și mult accent ar trebui pus pe procesul de a fi autodidacți.

"AI-ul este pasul final al evoluției informaticii, pasul care permite intrarea într-o nouă epocă, pas așteptat de mine încă din clasa a VII-a. O epocă interesantǎ se deschide în fața noastră, despre care nu putem spune încă dacă este bună sau rea, dar putem afirma, fără îndoială, că este cu adevărat nouă", spune Alexandru.

Ce se întâmplă cu mintea noastră supusă unui scroll infinit, plin de subiecte care de care mai apetisante și dătătoare de adrenalină? Mintea noastră devine defocusată, împrăștiată în multe direcții, iar răbdarea din ce în ce mai greu de controlat. Vrem totul acum, aici, cu satisfacție instant. Într-o notă mai pozitivă, AI-ul reprezintă o oportunitate uriașă pentru umanitate, e de părere Alexandru. El compară momentul pe care-l trăim cu altele de cotitură din dezvoltarea speciei umane, precum apariția limbajului articulat sau stăpânirea focului.

Cum te raportezi tu la AI

Înainte de a intra în miezul subiectului, destul de fierbinte, aș zice, al AI-ului, poate ar trebui să povestesc despre primele mele întâlniri cu computerele, pentru că, așa cum se va vedea, lucrurile se leagă.

În clasa a VII-a am primit primul meu calculator: era un computer românesc HC 90, făcut la ICE Felix București, sub forma unei simple tastaturi care se lega la televizor (acela era monitorul) și la un casetofon prin care se încărcau jocuri stocate pe casete. Cei care au trecut prin acea fază de la începutul anilor ’90 își amintesc, probabil, sunetele acelea specifice care se auzeau când se încărcau jocurile sau erorile tipice care apăreau pe ecran: „R Tape loading error”.

Fiind pus în fața tastaturii, despre care nu știam absolut nimic, și mânat de o curiozitate extremă, am încercat să interacționez cu obiectul din fața mea. Așadar, am apăsat tastele și, cu greu, am scris: „Ce faci?”, apoi am apăsat Enter. Spre marea mea dezamăgire, în locul unui răspuns inteligibil, pe care abia îl așteptam, a apărut celebrul mesaj: „Syntax error...”. Apoi am crezut că, probabil, nu știe română, însă înțelege matematica, și am încercat să scriu: „x + 10 = 20, x = ?”. Același mesaj. Acesta a fost primul meu contact cu computerul. Oarecum dezamăgitor. Aveam așteptări prea mari...

Ulterior, am luat lucrurile pas cu pas și am făcut progrese, ajungând, într-un an sau doi, să creez jocuri simple în Basic și mici programe în Assembler. De atunci însă am rămas mereu cu gândul la posibilitatea de a discuta cu computerul și mi-am dat seama că ținta ultimă a informaticii, cel puțin în viziunea mea, ar trebui să fie inteligența artificială. Și în facultate, de fiecare dată când am avut posibilitatea, am încercat să abordez subiecte periferice asociate cu AI, de exemplu recunoașterea formelor. Însă drumul meu în IT m-a direcționat către alte căi, mai bătute și mai puțin entuziasmante: baze de date, sisteme web etc. Totuși, am rămas mereu cu gândul la acel terminal care ar putea, cândva, să-mi răspundă…

Sărind acum peste câteva decenii și situându-ne în anul 2023, cred, auzisem și eu despre ChatGPT, dar nu-l încercasem încă. Am deschis interfața lui și am scris iar: „Ce faci?”. Iar atunci miracolul s-a produs. „Ceva” sau „cineva” mi-a răspuns. Nu-mi amintesc ce a scris, dar entuziasmul meu a fost major. Pentru mulți, faptul că un computer îți poate răspunde și te înțelege — deși acest termen ar trebui explicat mai clar în acest context — poate nu reprezintă nimic special. Eu însă, care cunosc parțial istoria AI-ului și evoluția computerelor, conștientizez poate mai pregnant acest progres și apreciez complexitatea matematică și algoritmică aflată în spatele acestei transformǎri majore din ultimii ani.

Așadar, pentru mine, AI-ul este pasul final al evoluției informaticii, pasul care permite intrarea într-o nouă epocă, pas așteptat de mine încă din clasa a VII-a. O epocă interesantǎ se deschide în fața noastră, despre care nu putem spune încă dacă este bună sau rea, dar putem afirma, fără îndoială, că este cu adevărat nouă.

Prima schimbare pe care ai simțit-o odată cu apariția AI-ului

Îmi amintesc că prin 2022, nu-mi amintesc data exactă, dar era cu puțin timp înainte de apariția oficialǎ a ChatGPT-ului, fiind la cursul meu de Religie și Știință, pe care îl susțineam în cadrul masteratului de Studii Religioase din Universitatea din București, le spuneam studenților că există cel puțin trei tehnologii care vor schimba lumea într-un timp mai scurt decât ne-am aștepta: inteligența artificială, dezvoltarea calculatoarelor cuantice și progresele în biotehnologie și genetică. Iar inteligența artificială ne va afecta curând. În câteva luni, toată lumea începuse deja să interacționeze, într-un fel sau altul, cu astfel de sisteme.

Pentru mine, una dintre primele schimbări a constat în utilizarea sistemelor AI în locul căutărilor tipice pe Google. În domeniul IT, unde activez, impactul este colosal. Dezvoltarea de produse software s-a schimbat și se schimbă zilnic. Viteza de apariție a unor noi sisteme a fost mult crescută tocmai prin ajutorul oferit de AI, care îți poate corecta codul, îți poate citi și analiza o documentație amplă și îți poate sugera cum să implementezi anumite funcții.

Anul 2025 a fost cel în care am început să lucrez efectiv cu astfel de sisteme și, în decurs de 1-2 luni, am reușit să dezvolt, de exemplu, roboți inteligenți telefonici sau prin WhatsApp, ceea ce, în lipsa sistemelor AI, ar fi fost mult mai costisitor din perspectivă temporală.

Mai mult, există și conceptul de „vibe coding”, care spune că nu mai trebuie să scrii nicio linie de cod, ci trebuie doar să-i ceri sistemului AI, în orice limbă dorești — engleză, română etc., într-un mod cât mai logic și structurat, ce și cum să creeze pentru tine. Am făcut și eu un astfel de experiment și, în câteva zile, am reușit să dezvolt un sistem capabil să răspundă la orice întrebare despre Codul Rutier. Mi s-a părut oarecum șocant... limbajul uzual devine noul limbaj de programare.

De asemenea, în domeniul umanist am observat că se utilizează sistemele AI pentru a scrie lucrări, referate, conspecte, chiar capitole întregi sau cărți întregi. Am avut un caz în care unul dintre studenți mi-a trimis o lucrare care părea „prea corectă”. Ținuse cont de fiecare aspect enunțat de mine. Nici până azi nu m-am edificat dacă acea lucrare a fost generată de AI pe baza documentației cursului sau a fost creație individuală.

AI și ritmul lumii

Referitor la ritmul lumii, pot spune cu toată convingerea că acesta s-a accelerat. În domeniile tehnice, oricum exista deja un ritm foarte alert. Acum însă totul se schimbă cu o viteză amețitoare. Ceea ce este bine pentru industria de profil, însă induce anumite angoase omului care trăiește acest fenomen. În primul rând, simți că te afli într-un flux extrem de rapid care te împinge, te trage, chiar dacă ai vrea să te împotrivești. Însă, chiar si când încerci sǎ mergi pe val, cum se spune, mereu ai impresia că ești depășit. Cantitatea de informații noi și ritmul schimbărilor sunt copleșitoare.

Spre deosebire de domeniile umaniste, unde transformările sunt mult mai lente și unde poți fi încrezător că ceea ce înveți va fi utilizat și în viitor, punând astfel cărămidă peste cărămidă pentru evoluția ta, în tehnologia informației ești obligat să fii la curent cu un flux informațional enorm, observând deseori că ceea ce era valabil cu doar câțiva ani în urmă s-a schimbat radical. De multe ori trebuie să fii capabil să o iei de la început, să te reapuci să înveți ceva nou. O școală continuă...

Referitor la direcția lumii, sunt convins că AI-ul nu schimbă cu nimic direcția existentă. AI-ul este doar un instrument care ajutǎ la accelerarea transformărilor lumii, urmând însă aceeași direcție imprimată ei încă dinainte de Revoluția Industrială, o direcție care s-a conturat treptat, mai ales în societatea occidentală, în ultimele secole.

Ce aspect al vieții umane ți se pare cel mai vulnerabil în fața automatizării

Aș reformula puțin întrebarea și aș adăuga și: „care este unul dintre pericolele nevăzute ale automatizărilor?”, deoarece observ o tendință actuală în multe companii în care se pune accentul pe necesitatea automatizării proceselor.

Tendința este una bună, în esență. Ideea de a automatiza cât mai multe sarcini, eventual repetitive, teoretic va conduce la degrevarea angajaților de multe activități obositoare, robotice. Însă, deseori, nu este chiar așa. Lumea privită din avion diferă de lumea privită la firul ierbii. Lucrurile trebuie făcute inteligent, altfel noile automatizări vor fi doar noi taskuri pe care aceiași oameni, care ar fi trebuit să scape de anumite activități, trebuie acum să le urmărească și să le verifice în mod regulat. Altfel spus, vor avea ceva în plus de făcut, deși, în rapoartele anuale ale marilor companii, planul de automatizări a fost atins cu succes...

După cum vezi, nu am vrut să mă refer la principalul aspect discutat în astfel de contexte, și anume pierderea locurilor de muncă în fața automatizărilor. Cred că se vorbește excesiv pe această temă, deși este, evident, o teamă justificată. O teamă similară cu cea existentă atunci când computerele au început să fie utilizate pe scară largă.

În concluzie, nu cred că automatizarea în sine aduce pericole extrem de mari în raport cu viața umană, ea fiind doar una dintre multele consecințe care apar ca urmare a adoptării pe scară largă a AI-ului. Sunt alte aspecte ale AI-ului care au un potențial mult mai periculos decât automatizările.

Ce înseamnă a gândi în era AI

Cred că a gândi în era AI este similar cu a gândi înainte de era AI.

Într-o țară ca România, unde analfabetismul funcțional este la cote alarmante, un sistem care îți oferă răspunsuri extrem de rapide, mai bune sau mai puțin adecvate, la orice întrebare ai, va contribui la adâncirea analfabetismului funcțional. Cu alte cuvinte, cei care nu înțelegeau, nu făceau corelații și nu aveau cultură generală nu vor fi ajutați de aceste instrumente, ci, din contră, li se oferă o variantă comodă de a-și rezolva temele, de a scrie compuneri, de a genera un conținut „așa-zis” original, de a „bifa” sarcinile pe care le au de îndeplinit, fără să-și antreneze propriile rețele neuronale.

Însă există și partea plină a paharului. Există și cei originali, care creează, gândesc, dezvoltă și care acum au un ajutor „inteligent” extrem de util.

Așadar, AI-ul poate accentua clivajul dintre aceste două categorii de persoane, iar pericolul este și mai mare asupra generațiilor tinere, în școli, în perioada de formare a elevilor, când aceștia pot alege varianta simplă, care nu implică efort intelectual și înțelegere, ci doar repetiție.

Primele semnale pe care le detectezi într-o lucrare AI de orice fel

Aici avem o problemă. AI-ul devine din ce în ce mai bun la a-și ascunde urmele. Mă tem că, în curând, nu vom mai putea detecta anumite pattern-uri specifice. Așa cum poți azi clona vocea cuiva, la fel vei putea clona și modul lui de a scrie, stilul lui personal, după ce AI-ul îi analizează mai multe lucrări.

Întrebarea permite câteva căi de a continua discuția. Una este legată mai ales de unicitatea și valoarea unei opere de artă, a unei picturi, a unei cărți, a unei poezii sau a unei melodii.

Nu vom asculta o muzică scrisă de AI doar pentru că nu este o creație umană, în cazul în care știm asta? Vom avea competiții de creație împărțite pe uman și non-uman? Deja au fost cazuri în care creații - cărți, muzică etc. - ale AI au devenit virale. Mă întreb ce vom face când un AI, după ce va parcurge tot ce a scris Dostoievski sau Borges, va crea un roman sau o nuvelă fix în stilul și la nivelul unuia dintre aceștia doi. Oare va fi posibil ca AI-ul să cunoască cu adevărat profunzimea sufletului uman până la nivelul acestora sau al unui Carl Jung, să zicem? Sau există un prag peste care niciodată nu va putea trece, rămânând la stadiul de progenitură care încearcă să-și imite și eventual să-și învingă creatorul?

Ca să răspund tot eu la întrebările mele, derivate din a ta, pentru moment impresia mea este că AI-ul, prin acel algoritm matematic de alegere statistică a cuvintelor — așa funcționează modelele LLM —, nu este capabil să sape în profunzimile spiritului uman. Aici este limita sa. Însă este extrem de capabil să execute orice poate fi matematizat, orice este un construct algoritmic sau are legătură cu inteligența măsurabilă. Și astfel aș face o primă distincție, care va fi utilă și la următoarele întrebări, între inteligență și înțelepciune. Cred că înțelepciunea va rămâne o caracteristică tipic umană, relaționată cu experiența de viață, cu anumite trăiri interioare și cu o cunoaștere mai profundă a realității, ceea ce va putea fi doar imitat incomplet de un algoritm.

Revenind însă la întrebare, aș spune că AI-ul poate avea un impact extrem de nefast tocmai în domeniile non-tehnologice. Acolo există posibilitatea să interacționăm cu clone ale creațiilor autentice și să fim amăgiți. De secole, diferențierea dintre original și copie a fost deseori dificilă, însă acum, în era AI, pragul dintre acestea se diminuează periculos de mult. Chiar dacă acum există anumite urme ale AI-ului — de exemplu, multe imagini generate au un grad de complexitate exagerat, evident non-uman; sau, în astrofotografie, domeniu cu care mă ocup, imaginile generate de AI sunt evident prea accentuate, colorate și detaliate —, acestea se vor perfecționa și estimez că, în câțiva ani, vor dispărea, făcând extrem de dificilă evaluarea unor opere. Poate că va fi nevoie să fie creat un nou sistem de evaluare și valori sau, cel puțin, cel clasic să fie adaptat.

Cum afectează AI evoluția limbajului

Extrem de interesant mi se pare tocmai modul de funcționare a modelelor LLM (Large Language Models), cum sunt Claude, Grok, DeepSeek, Mistral etc.: se utilizează statistica pentru a se genera următorul token. Deci inteligența s-a generat printr-un calcul statistic aplicat asupra unei baze de date extrem de vaste. De exemplu, la o propoziție care începe cu „Afară soarele...”, sistemul calculează care este cuvântul cu probabilitatea cea mai mare să apară după o astfel de structură, ținând cont și de întrebarea care i-a fost pusă, și de context, iar apoi alege cuvântul cel mai probabil. În acest caz ar putea fi „strălucește”, deci: „Afară soarele strălucește”. Aș fi zis că un astfel de algoritm — evident, eu am simplificat la maximum expunerea acestuia — nu are cum să genereze inteligență, însă observăm contrariul.

Din această perspectivă, nu cred că limbajul uzual va fi afectat cumva. Oamenii vor discuta ca până acum. Singura diferență apare în modul în care te adresezi sistemului AI, când îi ceri să execute o sarcină tehnică complexă. Atunci trebuie să explici problema într-un mod extrem de structurat și clar, astfel încât să fii capabil să-i oferi, lingvistic, întreaga arhitectură pe care trebuie să o creeze. Astfel, limbajul de adresare către AI va trebui să fie unul concis, clar și fără carențe logice... ceea ce, în vorbirea curentă, deseori nu constituie o prioritate.

Poate un model antrenat pe tot ce s-a gândit deja să mai creeze ceva cu adevărat nou?

Întrebarea este una interesantă. Mai întâi aș spune că modelele actuale nu sunt antrenate pe tot ce s-a scris vreodată, ci doar pe o mare parte din textele publice și mai puțin publice — iar aici este o mare problemă cu drepturile de autor, însă nu intră în tematica noastră. Totuși, există extrem de multe domenii unde sunt multe oportunități de dezvoltare a sistemelor AI. Mă gândesc acum la domeniile umaniste, care sunt mai puțin conectate la revoluția tehnologică, de exemplu la modele LLM care ar putea fi antrenate pe texte vechi, în limbi rare, capabile să traducă și să descifreze manuscrise. Este doar un exemplu.

Aș spune că modelele AI pot genera conținut nou, chiar dacă, să presupunem, au fost deja antrenate pe întreaga colecție de texte accesibile. Ele au un parametru numit „temperatură”, care îți permite să-i ceri modelului să fie mai creativ, adică să iasă puțin din grila strictă impusă de tine prin formularea întrebării și a contextului. Dacă temperatura este 0, modelul nu are această libertate. Iar dacă temperatura crește, modelul devine mai creativ. Creativitatea vine însă la pachet și cu riscul unor halucinații. Întrebarea este dacă acel „ceva nou” este și valoros. Aici nu știu ce să spun; cred că trebuie să așteptăm și să vedem evoluția...

Efectul asupra percepției oamenilor vizavi de propria persoană

Efectul este unul simplu: omul simte o presiune care îl face să se simtă inconfortabil în raport cu activitatea sa. Apare o angoasă. Așa cum spuneam mai sus, omul trebuie să fie conștient că vechea mentalitate, conform căreia, după ce ai terminat școala, liceul, facultatea sau orice altă formă de învățământ, s-a încheiat și perioada în care te-ai format și ai învățat, trebuie abandonată. Noua mentalitate trebuie să-i ofere omului o altă viziune asupra vieții, în care învățarea devine un proces continuu.

Însă acest lucru trebuie făcut fără presiune excesivă asupra individului, iar aceasta este o sarcină destul de dificilă. Trebuie să ne obișnuim cu toții cu ideea că, pentru a face față acestei lumi în continuă schimbare, trebuie să fim niște școlari permanenți. Și mult accent ar trebui pus pe procesul de a fi autodidact. A învăța continuu nu înseamnă a frecventa cursuri pentru a primi cât mai multe certificări, ci este vorba de o dezvoltare continuă a individului și de o adaptare a sa la noile realități.

Îmi dau seama că multora o astfel de perspectivă le displace, deoarece au asociat procesul de a învăța cu „școala”, cu „trebuie”, și suntem nevoiți să recunoaștem că, la noi, sistemul de învățământ nu este unul prea „apetisant”.

Ar trebui făcută și o distincție între cei care activează în domenii tehnice puternic influențate de AI — programare, marketing digital, copywriting etc. —, asupra cărora presiunea este mult mai mare, față de cea resimțită de restul populației, din alte domenii mai puțin conectate la AI. De asemenea, presiunea este direct proporțională cu vârsta, în sensul că cineva trecut de prima tinerețe va avea dificultăți mai mari de adaptare față de un tânăr din generația Z.

Oricum, un astfel de proces poate genera și o oboseală în raport cu existența. O viață de transformare continuă creează senzația de a fi pe drum fără pauză. Ești ca pe munte, când obosești și vrei să stai puțin jos, însă apare din spate ghidul și îți spune: „Mergi mai departe, hai că mai avem puțin până pe vârf”. Iar drumul tot continuă la nesfârșit și vârful pare că nu se mai apropie, deși se întrezărește printre nori.

Cred că principala problemă resimțită în contextul amenințării continue a mașinilor care fac totul mai bine decât noi este tocmai această posibilă oboseală. Vine momentul când vrei un moment de respiro, când vrei slow food, slow thinking, slow music, slow life... pentru că te-ai săturat de viteza lumii exterioare, iar lumea ta interioară nu are nevoie de viteză, ci, din contră, are nevoie de concentrare, de unitate în gânduri și de regăsire.

A găsi un echilibru între ce vrea lumea exterioară de la noi și cine suntem noi cu adevărat este un proces foarte dificil, care trebuie calibrat cu multă grijă.

Preconizez că, în lumea hipertehnologizată spre care ne îndreptăm, va apărea o explozie de activități complementare menite să armonizeze individul, bazate pe dimensiuni artistice și umaniste. În absența acestora, riscăm să ne fragmentăm interior și, chiar dacă ne vom adapta cu succes la exigențele lumii viitorului, vom resimți un eșec profund în raport cu propriul eu, ceea ce poate conduce la un conflict interior periculos.

AI vs. răbdare, efort, muncă și eșec

Răspunsul este o continuare a întrebării anterioare. Revenim la acel „repede” angoasant.

Răbdarea și efortul susținut pentru o cauză vor reprezenta calități din ce în ce mai greu de format și menținut. Și nu doar AI-ul este cauza aici. AI-ul este doar un alt inel în marele lanț al tehnologiilor pe care le utilizăm zilnic. Să ne gândim doar la modul în care Facebook, Instagram sau alte rețele sociale ne transformă nivelul de așteptare: derulăm continuu, trecând într-o secundă sau două de la un subiect la altul. Un astfel de comportament ne dezobișnuiește să ne concentrăm. Ne afectează răbdarea. Odată ce ne-am familiarizat cu texte de două-trei rânduri, deja nu mai citim postările lungi. Ce să mai vorbim despre un articol integral sau o carte…

Așadar, acest scroll continuu printre subiecte diverse, extrem de bogate în stimuli media — imagini, scurte filme, sunete etc. — și foarte diferite între ele, defocalizează mintea, o împrăștie. Concentrarea pe un subiect este afectată. Este exact opusul unității minții obținute prin meditație, tehnici contemplative sau printr-o viață normală, în armonie cu mediul.

Vrem mult și repede, pentru că așa ne-am obișnuit. Dacă apăsăm butonul telecomenzii și televizorul nu pornește în două secunde, deja devenim iritați.

Nu spun asta ca pe un atac la adresa tehnologiei, ci ca pe o observație evidentă: viteza lumii în care trăim și care își pune amprenta asupra noastră nu este o viteză naturală, ci una artificială, generată nu de lumea însăși, ci de sistemul pe care noi l-am creat. Iar acest sistem are o influență nefastă asupra unor calități umane precum răbdarea și puterea de a depune un efort susținut pentru atingerea unui țel îndepărtat în timp.

Cum se redefinesc opiniile divergente

Într-adevăr, observ că AI-ul actual are o tendință de a-ți da dreptate sau de a nu-ți spune prea dur când greșești. Însă este o setare default a sistemului. Poți să-i ceri să fie mai intransigent atunci când este vorba să te corecteze.

Pericolele pe care nu le vedem în noul oracol AI

Și în acest caz, situația provocată de AI nu este ceva nou. Este o continuare a unei tendințe. Odată cu apariția rețelelor sociale, multe persoane au devenit repere informaționale: bloggeri, vloggeri, influenceri, formatori etc. Oricine și-a putut crea propria tribună, unde să iasă cu o portavoce digitală și să-și expună opinia. Mulți au ajuns astfel să se informeze din canale îndoielnice: ascultăm sfaturi de medicină de la vloggeri, de nutriție de la vedete etc. Acum a mai apărut o portavoce, însă cu o autoritate mai puternică. Cred că această autoritate se va accentua în timp, pe măsură ce modelele vor deveni mai bine antrenate.

Termenul de „oracol” este bine ales, pentru că exact asta fac modelele LLM din spatele sistemelor AI: fac predicții. Inclusiv modul de generare a textului este unul bazat pe estimarea următorului token. Domeniile în care cred că abordarea bazată pe AI se va dezvolta și mai mult sunt predicția sistemelor complexe, cele cu caracter haotic: evoluția bursei, predicția valutară, evoluția economiei, modelele climatice, diagnosticarea bolilor etc. Cam tot ce nu poate fi simulat prin ecuații liniare, depinde de foarte mulți parametri și are un profund caracter haotic — a nu se înțelege haosul în sens trivial, ca ceva neregulat sau dezorganizat, ci din perspectiva teoriei haosului, în care un sistem haotic are propriile reguli de evoluție, extrem de complexe, greu de exprimat în ecuații simple, un sistem a cărui evoluție în timp depinde foarte mult de starea inițialǎ a sistemului și parametrii de intrare.

Așadar, acest oracol cred că se va dezvolta foarte mult în domenii tehnice precise. Iar în momentul în care se va atinge, poate, „Singularitatea” și AGI-ul — superinteligența în toate domeniile și, mai ales, conștiința de sine —, atunci vom avea un oracol în aproape toate domeniile. Trăiesc un sentiment de nerăbdare amestecat cu teamă, gândindu-mă că civilizația umană este pe cale să-și inventeze noi zei…

În afara pericolului evident de a-i oferi o autoritate prea mare în domenii legate de sănătate, viață personală etc., marile pericole, cred, abia urmează să se prefigureze la orizont. Iar acestea pot fi împărțite în două tipuri majore: pericole tehnologice și pericole spirituale.

Cele tehnologice constau în avansul pe care îl vor lua sistemele militare cu AI și cele de supraveghere. Filmul Terminator va deveni un scenariu realist. Cu investiții relativ minore, vei putea crea arme biologice, chimice sau de altă natură. Vei putea distruge sisteme informatice esențiale prin viruși inteligenți care se pot autoreplica. Mai simplu spus, o cutie a Pandorei s-a deschis deja și nu văd nicio motivație pentru a o închide, pentru că în joc este influența globală. Cine va stăpâni această tehnologie va stăpâni și lumea. Putem asista astfel la democratizarea răului.

Vom avea justiție bazată pe AI, lege aplicată de AI, poate și guvernare influențată — nu vreau să spun gestionată — de AI. La început vom vedea avantajele prin lipsa corupției și corectitudinea aplicată matematic, însă uneori un astfel de sistem este posibil să reacționeze total altfel decât ne-am aștepta. De ce? Pentru că este un sistem complex care este guvernat și el de legile sistemelor complexe. Să ne amintim doar de celebrul „butterfly effect”, care spune că o bătaie de aripi a unui fluture în Amazon poate stârni furtuni în Europa. La fel și în cazul AI: este posibil să apară efecte incontrolabile și neașteptate, provocate de evenimente aparent nesemnificative, cu consecințe greu de imaginat, mai ales dacă oferim AI-ului putere absolută asupra sistemelor noastre.

Mai există și pericole mai subtile, care au legătură cu o nouă spiritualitate deviantă, bazată pe AI, o spiritualitate menită să umple golul existent într-o societate profund desacralizată, cum este cea occidentală. Gândește-te doar la celebrul banc urban, inspirat probabil din povestirea The Last Question a lui Isaac Asimov, în care omenirea „hrănește” un supercomputer cu toate cunoștințele existente pentru a-i adresa, în final, cea mai importantă întrebare: „Există Dumnezeu?”. Iar răspunsul sec al acestuia este: „Acum da”.

Suntem într-un moment de răscruce (existǎ un termen foarte potrivit din media germană – Zeitenwende). Majoritatea acestor pericole sunt la pragul de a trece din potențialitate în actualitate, unele în anii care urmează, altele mai târziu. Oricum, accelerarea continuă a cursei AI dovedește că cei implicați în gestionarea acestui domeniu se ghidează după o expresie celebră folosită des în pandemie: „beneficiile depășesc riscurile”.

Relația între oameni și AI

Se prefigurează o relație confortabilă pentru persoanele mai puțin sociabile și cu interacțiuni umane deficitare. Mulți au, cu siguranță, mai mulți „prieteni” virtuali în rețelele sociale decât reali. Problema este că orice cantitate virtuală de acest tip nu aduce satisfacție reală. Poți fi singur în realitate și extrem de popular în plan virtual. Știm cu toții că apariția lumii virtuale a condus la însingurare, deși denumirea este aceea de „rețele de socializare”. Pentru cei care trăiesc acest fenomen, a găsi un avatar AI care te înțelege, îți oferă sfaturi și este permanent lângă tine poate apărea ca o mică consolare.

Principalele riscuri, consider, rămân alienarea, înstrăinarea și fuga de contactul cu persoanele reale către avatarurile virtuale care te acceptă mai ușor așa cum ești, nu te judecă și sunt mereu prezente când le chemi.

Dar există multiple perspective din care putem privi această relație, unele pozitive, altele negative. În anumite cazuri, interacțiunea om-AI poate ajuta în mod real, iar în altele poate accentua degradarea emoțională.

Mă gândesc și la persoanele în vârstă și singure, care ar putea beneficia de accesul la un AI cu care să vorbească, care să le amintească când să-și ia medicația sau să anunțe automat serviciile de sănătate în cazul în care detectează o problemă.

În momentul în care vor apărea pe scară largă și roboții umanoizi dotați cu AI, cred că serviciile sociale vor avea de câștigat și vom avea noi entități cu care vom interacționa. Nu este necesar să fim vreun Albert Toffler pentru a estima, în linii mari, la ce să ne așteptăm, deoarece ideea a fost abordată suficient de des în filme și cărți de anticipație.

La nivel global și la nivel personal vom îngloba în viața noastră, dacă nu am făcut asta deja, și această relativ nouă tehnologie, precum am făcut cu GPS-ul, telefonul mobil, accesul la e-mail sau internet bankingul, întregul sistem devenind organic interconectat.

Care rămâne calitatea noastră definitorie în epoca AI

Întrebarea atinge o problematică antropologică, filosofică, poate chiar și religioasă. Mai întâi ar trebui reamintită, foarte pe scurt, viziunea științifică actuală despre evoluția universului.

Lumea a apărut în urma unui eveniment extrem de intens, cunoscut sub numele de Big Bang, în urma căruia a început să se extindă relativ uniform în toate direcțiile. În primele momente au luat naștere particulele fundamentale, iar după aproximativ câteva sute de mii de ani s-au format primii atomi, permițând materiei să se organizeze treptat în structuri din ce în ce mai complexe. Sub acțiunea gravitației, aceste structuri au evoluat către formarea stelelor și galaxiilor, iar în interiorul acestora au apărut, ulterior, sisteme planetare.

Pe unele dintre aceste planete, inclusiv pe Terra, au existat condiții favorabile apariției vieții. Astfel, din materie anorganică au luat naștere molecule organice, iar în timp au apărut primele forme simple de viață. Acesta este primul moment fundamental: trecerea de la neviu la viu.

De-a lungul a miliarde de ani, aceste forme de viață au evoluat către organisme tot mai complexe, traversând numeroase etape și extincții. Inițial, viața a fost lipsită de inteligență, funcționând doar pe baza unor mecanisme simple de adaptare. Treptat însă, în cadrul acestui proces evolutiv, au apărut forme de viață capabile de percepție, învățare și gândire.

Acesta este al doilea moment fundamental: trecerea de la viața lipsită de inteligență la viața inteligentă și conștientă, iar în vârful lanțului trofic este așezat omul, ființă vie, conștientă și gânditoare.

Am spus toate acestea deoarece am vrut să accentuez ordinea cu care eram obișnuiți: Big Bang -> materie -> structuri complexe lipsite de viață -> viață fără inteligență -> viață cu inteligență. Așadar, ordinea a fost mereu apariția vieții și apoi a vieții inteligente. În viziunea științifică, inteligența/rațiunea au fost văzute ca fiind „mai sus” decât viața și urmând acesteia. Trebuia să apară viața și apoi inteligența, ele două fiind strâns conectate.

Acum avem un șoc. Este evident că inteligența trebuie decuplată de viață. Putem vorbi de inteligență în absența vieții, cel puțin ca substrat. Iar aceasta conduce către multiple consecințe. Văzând că inteligența nu are nevoie de un substrat viu pentru a exista, apar întrebări de tipul: pot exista alte structuri inteligente în univers, în afara celor vii? Dacă da, implicațiile sunt majore în diverse domenii, de la astrobiologie și programe de cercetare spațială până la neuroștiințe.

Revenind cu picioarele mai pe pământ, ne dăm seama azi că ceea ce a contat foarte mult în sistemele de valori occidentale la care ne raportăm și noi, anume „a ști” și „a fi inteligent”, reprezintă în continuare caracteristici importante, dar nu le-aș numi fundamentale. Ele ne definesc parțial ca specie și nu mai sunt unice. Cred că nu mai discutăm despre o singură calitate sau caracteristică definitorie, ci despre un cumul care, laolaltă, oferă speciei umane unicitate. Mă gândesc la capacitatea de introspecție, conștiința de sine, capacitatea de a experimenta trecerea timpului, din care rezultă și conștientizarea morții, accesul la ceea ce psihologii numesc subconștient și inconștient și, nu în ultimul rând, posibilitatea de a trăi sentimente pozitive sau negative precum iubirea, compasiunea sau ura. Unele dintre acestea pot aparține și AI-ului, însă nu întregul pachet. Evident că și rațiunea are loc în acest pachet special.

Dacă aș descrie cele de mai sus într-un mod schematic, aș spune că omul are acces la o lume exterioară — universul material cu care interacționăm prin simțuri — și la o lume interioară — cea sufletească, psihică. Ambele se proiectează la nivelul conștiinței sale și creează ceea ce el numește realitate. O astfel de schemă de funcționare este unică omului și nu va fi găsită în lumea mașinilor.

Sigur că există și multiple perspective religioase pe care le putem utiliza pentru a defini unicitatea ființei umane. Conform perspectivei pe care o putem numi abrahamică, se poate defini relativ simplu unicitatea: doar omul este creat după chipul Creatorului, având posibilitatea să dobândească și asemănarea cu Acesta. Însă nu vreau acum să dezvolt aceste viziuni, deși ele sunt susținute de miliarde de persoane. Se poate scrie o carte întreagă pe această temă.

Cum se schimbă perspectiva asupra realului

Perspectiva asupra realului nu se schimbă odată cu apariția AI-ului. Fără a intra în detalii, fac o scurtă paranteză și amintesc că ultimul moment major în care perspectiva științifică asupra realului a fost clătinată s-a petrecut la începutul secolului XX, odată cu apariția mecanicii cuantice, când s-a dovedit că potențialitatea (virtualul) și actualitatea (realul obiectiv, material) au aceeași valoare ontologică. Acum suntem în aceeași paradigmă, doar adăugăm detalii noi la o structură deja construită.

Azi nu cred că mai șochează pe nimeni faptul că vedem elemente din lumile virtuale ca fiind reale. A fi real nu implică a fi materie. Realul are mai mult legătură cu mintea noastră și cu efectele pe care le lasă asupra noastră decât cu ceea ce este palpabil, fixat spațial sau format din substanță.

Mai important mi se pare momentul apariției lumii virtuale, a internetului etc., deoarece astfel s-a conștientizat la nivel global ceea ce se știa de aproximativ un secol: că lumea noastră este împărțită pe niveluri. Nu este precum o casă cu un singur etaj, ci precum un bloc cu multe etaje. Iar ceea ce numim lume fizică reală este doar unul dintre aceste etaje.

Nu pot afirma despre o monedă virtuală, de exemplu un Bitcoin, cǎ ea nu este reală, doar pentru cǎ nu o văd, nu o pot ține în palmă și nici nu pot spune cu precizie unde se află la un moment dat. Pot să o utilizez pentru a cumpăra ceva material sau virtual, o pot transfera și, în final, poate produce efecte reale, măsurabile asupra mea.

Informația a adăugat un nou strat, mai subtil, lumii noastre materiale, pe care ne-o imaginam formată doar din substanță și energie. Chiar și această nouă împărțire trinitară este tot una simplificatoare. Pentru a ne extinde perspectiva asupra a ceea ce numim real, trebuie să implicăm aici și conștiința umană, la nivelul căreia se formează simțul realității.

În concluzie, în era AI, perspectiva asupra realului se îmbogățește cu noi elemente, nu se transformă radical.

Granițele etice care se trasează în aceste zile

În primul rând, ar trebui stabilit câtă putere oferim AI-ului și cât de mult îl lăsăm să pătrundă în viața noastră. De aici trebuie început.

În urmă cu câteva săptămâni au existat discuții în SUA între Pentagon și compania Anthropic, prin care li s-a cerut celor din urmă să fie mai puțin restrictivi în utilizarea modelului Claude în domenii precum dezvoltarea sistemelor de luptă autonome, armament inteligent etc. Aceștia au refuzat ca modelul lor să fie utilizat în domenii care ar implica vătămarea directă a persoanelor. Alte companii au mers mai departe cu colaborarea în domeniul militar.

Din câte cunosc, în China reglementările sunt mult mai restrictive în domeniul AI, toate companiile fiind obligate să se supună cerințelor guvernamentale. Acolo, dacă statul impune unei companii ca acel model să fie utilizat în scopuri militare, nu există posibilitatea unui refuz. De asemenea, granița dintre intimitate și monitorizarea vieții individului este extrem de subtilă acolo. De ce fac referire la China? Pentru că aceasta este a doua putere globală în domeniul AI, cu șanse reale de a deveni, în scurt timp, numărul 1. Mai mult, dacă o mare putere utilizează AI pentru supremație militară cu prețul distrugerii libertății individului, cu siguranță și alte mari puteri, care se consideră mai liberale, se vor alinia trendului pentru a nu pierde competiția globală.

Așadar, există riscul ca, din perspectivă geopolitică, impunând limite etice restrictive, să pierzi competiția AI. Deci trebuie să ne întrebăm ce vrem: dorim să fim mereu în frunte, asumându-ne riscul unor abateri de la conduita standard de protejare a drepturilor și libertăților individului? Sau punem pe primul plan omul, cu nevoile și libertățile acestuia, utilizăm AI-ul doar în anumite domenii și definim limite stricte în care acesta are acces la datele individului? În concluzie, nu-i oferim multă putere asupra noastră.

Impresia mea este că actuala cursă amețitoare din domeniul AI nu oferă timp pentru discuții prea ample despre etică. Chiar dacă vor exista anumite reglementări utile, făcute cu bună intenție, acestea vor putea fi aplicate cel mult marilor companii. Dar să nu uităm că azi există mii de modele care pot fi descărcate gratuit și care pot fi antrenate local pe seturi de date private. Cine poate verifica și impune reguli în aceste cazuri marginale?

Frica ta cea mai mare vizavi de AI. Dar speranța?

Frici nu am. Sunt doar preocupat de anumite pericole potențiale, unele dintre acestea fiind amintite mai sus.

Personal, consider că AI-ul reprezintă o oportunitate uriașă pentru umanitate. Aș compara momentul cu altele de cotitură din dezvoltarea speciei umane, precum apariția limbajului articulat sau stăpânirea focului. Cu siguranță, unii vor considera că este o exagerare.

Vreau să-mi păstrez viziunea optimistă asupra subiectului și să sper că astfel vor fi accelerate cercetările în domeniile medicale, în primul rând. De asemenea, a avea în fața ta un superprofesor care te poate învăța, la orice oră din zi și din noapte, istorie, astronomie, limbi străine sau îți poate răspunde la orice întrebare reprezintă un avantaj pe care nu l-a avut nicio generație înaintea noastră. Și ar trebui să profităm de el.