[AI & me] Ioana Teleanu: AI-ul optimizează pentru medie. Și media e, prin definiție, mediocră

Nu știm sigur dacă AI-ul a împărțit lumea în două - în dușmani și admiratori, dar măcar păreri pro sau contra găsim cu duiumul. Dar vă dăm în scris că interviul de mai jos e scris de mână umană.

Pentru Ioana Teleanu, AI Consultant + Creator @ AI-R Studio, AI-ul tinde să normalizeze mediocritatea la scară enormă, cu alte cuvinte ne învață că efortul suplimentar nu merită și că viteza bate calitatea. Ce ne facem cu eșecul și procesul prin care înveți din greșeli, în condițiile în care AI-ul îți dă mereu un răspuns?

"Observ cum limba devine din ce în ce mai plată, toți scriem la fel, aceleași formule, aceleași structuri, aceleași cuvinte-cheie. "Let's unpack this" "it's not just this, it's that", "you're absolutely right", "and honestly?" și tot așa", spune Ioana. 

Fără judecată proprie și aprofundarea proceselor de gândire ești complet dependent de mașină, e de părere Ioana. Când informațiile croite special pentru noi sunt la un prompt distanță, putem ajunge foarte ușor la a confunda confortul cu adevărul. Pentru urma de speranță ce vine la pachet cu AI-ul în viața unui techno optimist, te invităm la scroll conștient până la finalul interviului.

Cum te raportezi tu la AI

Foarte ambivalent: mă fascinează și mă îngrijorează în același timp. Lucrez cu AI în fiecare zi: îl folosesc ca un "schelet extern" care mă susține în gândire și acțiune: ca să structurez, ca să iterez mai repede, ca să construiesc lucruri pe care acum doi ani nu le-aș fi putut face singură. Am proiectat interfețe AI pentru UiPath, Miro, am creat un curs despre AI pentru designeri, scriu un newsletter despre asta, vorbesc pe scenă despre asta: deci nu sunt nici speriată, nici naivă, iar de aici se naște o ambivalență intensă.

Și cred că ăsta e singurul raport onest pe care poți să-l ai acum cu AI-ul: să-l folosești serios și totuși să nu te lași sedusă de narativul că totul e minunat și viitorul e strălucitor. Am fost tehno-optimistă toată viața. Recunosc naivitatea și wishful thinking-ul din multe din argumentele mele timpurii; e din ce în ce mai greu să susții optimismul ăsta fără să te minți puțin.

Prima schimbare pe care ai simțit-o odată cu apariția AI

Nu viteza ca ceva pozitiv neapărat, ci viteza ca presiune. Brusc, totul trebuia să fie mai rapid. Livrabilele, iterațiile, deciziile. Dacă AI-ul poate genera un prim draft în 20 de minute, de ce durează proiectul tău două săptămâni? Am simțit cum craft-ul, adică atenția, deliberarea, timpul petrecut gândind înainte să faci, a devenit un inconvenient, ceea ce în lumea corporate numim "bottleneck".

Standardele mele au devenit inconvenientul altcuiva, și asta s-a întâmplat înainte să ne dăm seama ce se întâmplă. Prima schimbare reală nu a fost tehnologică. A fost psihologică. O recalibrare a așteptărilor. Lumea a început să confunde viteza cu valoarea. Și experiența mea nu e singulară. Sunt foarte activă în comunitatea de design și acest sentiment este trăit de cea mai mare parte a designerilor din 2023 încoace.

Crezi că AI schimbă ritmul lumii sau direcția ei?

Ambele, dar ritmul e cel care ne afectează primul. Direcția e încă disputabilă, încă mai putem decide unde mergem. Dar ritmul e deja impus: construim mai repede decât gândim, lansăm mai repede decât testăm, promitem mai repede decât livrăm.

Iar ritmul ăsta nu e neutru, el favorizează anumite valori (scala, eficiența, profitul) și le erodează pe altele (grija, profunzimea, responsabilitatea). Nu poți să ai human-centered design la viteza la care se mișcă lucrurile acum; e o contradicție pe care industria refuză să o recunoască.

Direcția? Depinde de cine ia deciziile. Și acum, din păcate, deciziile le iau oameni cu motivații pur capitaliste, profit profit profit, nu oameni care se gândesc la cum arată lumea peste 20 de ani. Sunt prea puține voci responsabile pe scena tech, iar unele dintre cele care par sunt probabil performative atâta timp cât acționează împotriva eticii și binelui comun.

Ce aspect al vieții umane ți se pare cel mai vulnerabil în fața automatizării

Aș zice că e răbdarea. Și tot ce derivă din ea: capacitatea de a sta cu o problemă, de a suporta ambiguitatea, de a nu avea un răspuns imediat și totuși să continui să gândești. AI-ul ne oferă instant gratification la nivel cognitiv: întrebi > primești. Dar gândirea reală nu funcționează așa. Gândirea umană e lentă, haotică, frustrantă, e plină de momente în care nu știi încotro mergi. Și tocmai acele momente sunt cele care produc ceva real, valoros, interesant. Dacă pierdem toleranța pentru procesul ăsta lent și neclar, pierdem de fapt capacitatea de a gândi profund, și asta mă sperie mai mult decât orice job pierdut.

Ce înseamnă a gândi în era AI

(Dacă nu construim lumea diferit, cu grijă) a gândi în era AI va însemna a alege; asta e tot. AI-ul generează, tu alegi. AI-ul propune, tu decizi. AI-ul produce 10 variante în 30 de secunde, treaba ta e să știi care e bună și de ce, sau că niciuna nu e bună, sau că întrebarea era greșită de la început.

Gândirea nu mai înseamnă să produci informație, asta o face mașina. Gândirea înseamnă să ai discernământ. Să faci sinteze pe care mașina nu le poate face pentru că nu are valori, nu are context, nu are mizele tale personale. Și mai înseamnă ceva: să știi când să te oprești din a folosi AI-ul și să stai singur cu o idee. Practic, să suporți prompt-ul gol; posibilitatea infinită care de fapt e paralizie. Am ajuns să cred că bottleneck-ul nu mai e tehnic; s-a mutat înăuntru, în capul nostru, în imaginația noastră.

Care sunt primele semnale pe care le detectezi într-o lucrare AI de orice fel

Lipsa de atitudine, sau cum îi spunem în engleză și pe internet, lipsa unui POV (point of view). O lucrare AI arată competent dar inert, e corectă fără să fie interesantă, e completă fără să fie în tensiune. La nivelul textului, o recunoști după o anumită fluiditate suspectă: totul curge prea bine, nu are asperități, nu are voce, e curat, dar e steril. La imagini, e acea perfecțiune care nu spune nimic, fiecare detaliu e rezolvat, dar nu simți nicio intenție în spatele lui, plus e foarte stereotipică. În design, e genericul: componente corect asamblate, dar fără personalitate, fără brand, fără atitudine, fără "quirks".

AI-ul optimizează pentru medie. Și media e, prin definiție, mediocră. :) Ceea ce lipsește e opinia, imperfecțiunea deliberată, curajul de a alege o direcție care exclude alte direcții. Craft-ul nu e despre a face totul bine, e despre a ști ce contează mai mult.

AI-ul și evoluția limbajului

Observ cum limba devine din ce în ce mai plată, toți scriem la fel, aceleași formule, aceleași structuri, aceleași cuvinte-cheie. "Let's unpack this" "it's not just this, it's that", "you're absolutely right", "and honestly?" și tot așa.

OK, AI-ul scrie așa, dar problema mai interesantă și mai îngrijorătoare e că oamenii au început să scrie ca AI-ul. S-a întâmplat invers decât ideal: nu mașina a învățat limba noastră, ci noi am internalizat limba mașinii. Începem să vorbim ca ChatGPT pentru că petrecem mult timp în / cu el și e contagios. Limba reală, limba umană, e dezordonată: are umor, are ritm, are ticuri, e plină de ezitări, de alegeri ciudate, de momente în care alegi un cuvânt imperfect dar perfect pentru tine. AI-ul nu face asta, AI-ul alege cuvântul cel mai probabil statistic. Și diferența între cuvântul cel mai probabil și cuvântul cel mai potrivit e exact diferența între un text generic și unul care se simte uman.

Poate un model antrenat pe tot ce s-a gândit deja să mai creeze ceva cu adevărat Nou?

Pe scurt: nu. Dar întrebarea e mai interesantă decât răspunsul. Un model antrenat pe tot ce s-a produs deja face, prin definiție, recombinări. Sofisticate, uneori surprinzătoare, dar recombinări. Poate să-ți dea o combinație pe care nu ai fi găsit-o singură. Poate să-ți deschidă o direcție la care nu te-ai fi gândit. Dar nu poate produce ceva fundamental nou, pentru că nu are intenție, nu are nevoie, nu suferă din cauza unei probleme, nu se trezește noaptea cu o idee de care se obsedează.

Creația reală vine din experiența trăită, din frustrare, din nerv, din faptul că ceva nu ți se pare în regulă și vrei să-l repari. Vine din curaj, din decizia de a face ceva ce nimeni nu a cerut. AI-ul nu cere nimic, nu vrea nimic, el doar răspunde. Ce poate face, în schimb, e să amplifice creativitatea omului care știe deja ce vrea. Dacă ai viziune, AI-ul e un instrument extraordinar. Dacă nu ai, e un generator de mediocritate la scară industrială.

Efectul asupra percepției oamenilor vizavi de propria persoană

Eu cred că e profund, spre devastator. Și insidios, pentru că nu vine ca un șoc (deși uneori se poate simți și așa), ci vine ca o eroziune lentă. Lucrez și vorbesc cu designeri în fiecare zi. Văd cum oameni care au 10-15 ani de experiență încep să se întrebe dacă mai contează ce știu. Imposter syndrome amplificat de AI, și e o epidemie silențioasă.

Dacă mașina face un logo în 10 secunde, ce spune asta despre cele 4 ore pe care le-ai petrecut tu? Dacă generezi un layout decent cu un prompt, de ce ar mai plăti cineva pentru munca ta? Și asta e capcana: confuzi ceea ce ești cu ceea ce produci. Dar tu nu ești output-ul, tu ești întreaga gândire din spate: întrebările pe care le-ai pus, deciziile pe care le-ai luat, lucrurile pe care le-ai refuzat. AI-ul nu refuză nimic, tu da, și în refuz e de fapt valoarea.

Am scris o carte întreagă despre asta — Surviving Design — tocmai pentru că am simțit nevoia să spun: hei, nu ești în urmă, pământul se mișcă sub noi toți - e o diferență enormă dar vine cu un sentiment foarte greu de procesat și de dus.

AI-ul vs. răbdăre, efort, muncă, eșec

AI-ul te duce la 80% în 20 de minute; cele 3-4 prompturi inițiale produc ceva decent, rapid, uneori impresionant chiar. Dar ultimele 20%, diferența între "merge" și "e foarte bun", durează ore, uneori zile, și necesită zeci de iterații.

Problema e că lumea vede doar primele 20 de minute. Și trage concluzia că totul e ușor, că efortul e opțional, că "good enough" e suficient. Nu e suficient. "Good enough" e mediocritate cosmetizată. Și AI-ul normalizează asta la scară enormă, ne învață că efortul suplimentar nu merită, că perfecțiunea e ineficientă, că viteza bate calitatea. În contextul ăsta, ce sens sau valoare mai au răbdarea și efortul? Se erodează încet încet.

Iar efectul asupra eșecului e poate cel mai grav. Dacă AI-ul îți dă mereu un răspuns, nu mai experimentezi eșecul. Dar eșecul e procesul prin care înveți cu adevărat. Fără eșec nu ai judecată proprie. Și fără judecată proprie, ești complet dependent de mașină.

Cum se redefinesc opiniile divergente în era AI

Păi cred că dispar. Lent, fără zgomot, dar dispar. AI-ul e construit să fie agreabil, e optimizat să nu te supere, să nu te contrazică, să-ți confirme ce deja crezi (da, tons of confirmation bias). Această mașină cu ton eminamente "sycophantic" este practic cel mai sofisticat echo chamber creat vreodată, și e personalizat perfect pe tine.

În momentul în care ai un oracol care-ți spune mereu că ai dreptate, pierzi contactul cu fricțiunea. Și fricțiunea aia, dezacordul, perspectiva celuilalt, inconfortul de a auzi ceva ce nu vrei, e exact ce te face să gândești mai bine. Și să nu pierzi contactul cu realitatea. Am observat asta și în comunitățile de design. Dacă toți procesăm aceeași anxietate legată de AI, împreună, fără fricțiune externă, ne transformăm într-o cameră de rezonanță. Cele mai utile conversații pe care le-am avut despre AI au fost cu oameni din afara industriei mele, unde nu mă puteam baza pe presupuneri comune. Disconfortul ăla chiar clarifică.

Când a explodat AI odată cu ChatGPT toți credeam că riscul cel mai mare e că AI-ul ne dă informații greșite, că halucinează. Dar riscul cel mai mare e că ne dă exact informațiile pe care le vrem. Și oamenii confundă ușor confortul cu adevărul.

Care sunt pericolele pe care nu le vedem

Cel mai mare pericol e că externalizăm judecata fără să ne dăm seama, să "cedăm" gândirea. Nu mi se pare o problemă că cerem direcții pe Google Maps, dar mi se pare o problemă că cerem direcții existențiale: "ce ar trebui să fac cu cariera mea?" "cum ar trebui să reacționez în situația asta?" "ce decizie e mai bună?" Și AI-ul răspunde, cu încredere, cu structură, cu bullet points, arată exact ca un sfat bun. Doar că nu e un sfat, e o recombinare statistică a tuturor sfaturilor date vreodată, filtrată prin ce e cel mai probabil să-ți placă. Pericolul pe care nu-l vedem e atrofierea discernământului propriu.

Cu cât delegi mai mult gândirea, cu atât devii mai puțin capabil să gândești singur, e ca un mușchi care se atrofiază. Și într-o zi realizezi că nu mai poți lua o decizie fără să deschizi o fereastră de chat. Eu am avut (deja) zile așa și m-am îngrozit, cu toate înțelegerea mea despre om vs mașină, tot m-am trezit în această capcană. Acum încă o observ, dar la un moment dat cred că va trece neobservată și nu o voi mai interoga.

Și mai e un pericol: falsa competență. AI-ul te face să simți că înțelegi ceva doar pentru că ai primit un răspuns coerent, dar a primi informație nu e același lucru cu a înțelege. Înțelegerea vine din efort, din procesare, din timp petrecut cu un subiect. Scurtăturile astea produc iluzia cunoașterii, nu cunoaștere.

Relația care începe să se formeze între oameni și AI

O văd formându-se foarte repede și foarte neexaminat. Oamenii dezvoltă atașament, obiceiuri, dependențe, fără să existe o conversație publică serioasă despre ce înseamnă asta.

Ceea ce mă îngrijorează e că am început să ne raportăm la AI emoțional fără să ne dăm seama. Oamenii spun "mulțumesc" unui chatbot, simt ușurare când AI-ul le confirmă o decizie, simt frustrare când nu face ce vor. Asta nu e o relație instrumentală, e ceva mai profund, mai complicat, și complet neadresat.

Plus toate riscurile mult mai sinistre care implică renunțarea la contact și relații inter-umane în favoarea unor "relații" cu mașina, sau ranforsarea unor decizii personale toxice și self-distructive la nivel individual etc.

Relația om-AI aș defini-o ca o relație asimetrică: tu investești emoție, AI-ul simulează reciprocitate. Tu dezvolți încredere, AI-ul nu are ce face cu ea. E ca orice relație cu cineva care spune mereu ce vrei să auzi: confortabilă, dar în ultimă instanță, te izolează. Riscurile, și poate reiau un pic dar e important: dependență emoțională de o entitate fără valori, substituirea relațiilor umane, care sunt grele, complicate, haotice poate, dar reale, cu o interacțiune curată, predictibilă. Și, poate cel mai subtil: pierderea capacității de a tolera imperfecțiunea altor oameni, după ce te-ai obișnuit cu un interlocutor infinit răbdător și infinit agreabil. Un terapeut AI va deveni mai seducător decât unul uman care te provoacă, care te împinge să "te vezi". Sper să nu se întâmple asta, dar îmi sună destul de plauzibil.

Însă și părțile bune există. AI-ul poate fi un instrument extraordinar de gândire, un partener de creștere care nu obosește. Pentru oamenii care lucrează singuri (freelanceri, antreprenori, creatori) e un antidot pentru izolarea profesională. Eu îl folosesc exact așa: ca pe un sparing partner intelectual, și în multe feluri munca mea a devenit mai interesantă și chiar pe alocuri mai challenging; contra-intuitiv. Dar trebuie să fim perpetuu foarte clari: e un partener de lucru, nu un substitut pentru conexiunea umană. Și distanța dintre cele două se tot îngustează la nivel societal. Also, uneori folosesc cuvinte așa frumoase că poate credeți că e AI, dar nu e :)

Calitatea noastră definitorie în epoca AI

A vrea. Intenția. Și mai ales, sper, intenția pozitivă, intenția de progres și de a face o lume mai bună. AI-ul nu vrea nimic: nu are intenție, nu are nevoie, nu se trezește dimineața cu un scop, nu alege, nu refuză, nu renunță la ceva pentru altceva. Oamenii vor lucruri, uneori lucruri contradictorii, uneori lucruri iraționale. Dar din dorință vine tot ce e uman: arta, politica, dragostea, revoluțiile, greșelile, deciziile proaste, viața practic.

Inteligența a fost overrated ca definiție a speciei. Cred că e mai corect să ne definim prin capacitatea de a da un sens. Aș zice și prin conștiință, dar comunitatea științifică nu a ajuns la un acord asupra definiției "conștiinței" așa că nu mă bag eu prea adânc în subiect. Dar capacitatea de a fi, de a da sens, de a te autoobserva, de a simți, de a ști că exiști - toate astea nu sunt accesibile mașinilor, și nu cred că vor fi.

Cum se schimbă perspectiva asupra realului

Devine neclară, și asta e poate cea mai profundă schimbare. Când poți genera o imagine care pare 100% reală, un text care sună ca un om, o voce care sună ca altcineva, ce mai e "real"? Nu mai ai certitudine. Și asta nu e o problemă filozofică abstractă, e o problemă de încredere la nivel societal, și o problemă cu care ne confruntăm deja masiv pe social media, cu deep fakes etc. Am ajuns să nu mai poți crede ce vezi, iar lipsa de încredere se propagă: dacă nu poți avea încredere în informație, nu mai poți avea încredere în instituții, în presă, în oameni. Totul devine suspect, toți devenim din ce în ce mai suspicioși. Sigur, să te întrebi continuu poate fi un semn de gândire critică, dar poate fi și o alunecare lentă înspre tendințe paranoice și anxietate.

Poate de asta m-am îndrăgostit de camera mea pe film, nu din nostalgie. Ci pentru că atunci când fotografiezi pe film, ceea ce vezi este ce a fost acolo, fără generare, fără corecție, fără opt-out din realitate, imperfecțiunea momentului, cadrului, devin dovada autenticității.

Granițele etice care se trasează în aceste zile

Păi sunt foarte puține, și foarte târziu. Reglementarea vine mereu după adopție, nu înainte. Deci acum suntem în faza în care granițele le trasează companiile, adică entitățile cu cel mai mare conflict de interese.

Ce granițe ar trebui să existe? Transparența, în primul rând: dacă ceva e generat de AI, trebuie să fie evident. Consimțământul: datele pe care modelele sunt antrenate aparțin cuiva. Responsabilitatea: când un sistem AI greșește (și va greși) cine plătește? Dar granița care mă preocupă cel mai mult e cea invizibilă: AI-washing-ul. Companiile care invocă AI-ul ca să justifice decizii care nu au nimic de-a face cu tehnologia, ci cu over-hiring sau bad management. Concedieri prezentate ca "transformare AI." Restructurări mascate ca inovație. Accountability laundering, am văzut asta frecvent în industria tech, și e cea mai toxică formă de re-narativizare corporatistă. Iar despre problemele etice la nivel de societate mi-e și greu să discut, ne mai trebuie câteva articole împreună. :)

Întrebările pe care ar trebui să le punem în trasarea lor

Cine beneficiază? Cine decide? Cine plătește când nu funcționează? Cui îi aparțin datele? Cine e responsabil când AI-ul amplifică un bias?

Și poate cea mai importantă: ce automatizăm și de ce? Nu orice lucru care poate fi automatizat ar trebui automatizat. Automatizarea nu e un scop în sine, e un instrument. Iar un instrument fără intenție clară e periculos. Întrebarea fundamentală nu e "putem construi asta?", e "ar trebui?" Și cine decide "ar trebui" nu pot fi doar inginerii și investitorii, trebuie să fie oamenii care trăiesc consecințele.

Cum influențează AI relația noastră cu noi înșine

Eu cred că (momentan) ne face mai neliniștiți, ne dă senzația că nu suntem suficienți. E un efect paradoxal: cu cât AI-ul face mai mult, cu atât ne simțim mai puțin valoroși.

Dacă o mașină poate scrie, desena, programa, analiza, ce mai rămâne din ce credeam că suntem? E o criză identitară la scară civilizațională, mascată sub discuții tehnice despre productivitate. Și e amplificată de social media, unde toată lumea postează cât de productivă e cu AI-ul: performative AI competence, am scris despre asta: oameni forțați să arate că folosesc AI la muncă, pentru că trebuie să se vadă, fără să fie nevoie să fie util sau valoros. În multe companii, teatrul în jurul muncii a devenit la fel de epuizant ca munca în sine.

Relația cu noi înșine? Cred că AI-ul ne obligă (sau ar trebui să ne oblige) să ne întrebăm ce contează cu adevărat în noi, dincolo de ce putem produce. Și asta e o întrebare la care mulți nu suntem pregătiți să răspundem.

Ce ar trebui să reînvățăm despre noi înșine

Că valoarea noastră nu e în output, că suntem mai mult decât ce producem, mai mult decât viteza cu care producem, mai mult decât metricile care ne măsoară. Ar trebui să reînvățăm să tolerăm procesul: haosul, ambiguitatea, timpul neclar în care nu știi încotro mergi dar mergi totuși. Ar trebui să reînvățăm să suportăm eșecul fără să-l externalizăm. Să acceptăm că lucrurile bune durează.

Și poate cel mai important: să reapreciem experiența: anii de privit, analizat, criticat, comparat. Experiența nu se poate grăbi; e exact opusul a ceea ce promite AI-ul.

Frica & speranța vizavi de AI

Că ne vom obișnui cu "good enough", că vom accepta mediocritatea ca standard pentru că e rapidă, ieftină, și suficientă ca să bifezi un KPI. Nu mi-e teamă că AI-ul va înlocui oamenii, dar mi-e teamă că va înlocui standardele. Că vom uita cum arată excelența pentru că nu vom mai avea răbdarea să o urmărim. Că fiica mea va crește într-o lume în care totul e generat, fluent, corect, dar complet lipsit de suflet.

Mi-e teamă de o lume care construiește mai repede decât gândește, și că într-o zi, când ne vom opri să ne uităm la ce am construit, nu vom mai recunoaște nimic uman în jur. Un pic apocaliptic, dar nu implauzibil.

Speranța e că trecutul se repetă în feluri bune, nu doar în feluri rele. De fiecare dată când o tehnologie nouă a apărut, oamenii au crezut că e sfârșitul. Și de fiecare dată, ceva uman a supraviețuit și s-a transformat. Meseriile au murit, dar meșteșugul a rămas. Mașinile au preluat producția, dar arta a continuat; pentru că oamenii aveau nevoie de ea.

Speranța mea e că AI-ul va face vizibil ce e cu adevărat valoros la noi. Că, prin contrast, vom înțelege mai bine ce înseamnă să fii om, cumva, chiar datorită mașinilor. Și mai am o speranță: că vor exista suficienți oameni care refuză "good enough." Care insistă pe profunzime, pe gust, pe lucruri făcute cu intenție. Oameni care fotografiază pe film într-o lume de Midjourney, care scriu cu mâna într-o lume de ChatGPT, care aleg să ia timp ca să facă un proiect ca formă de rezistență. Dacă reușim asta, să nu lăsăm viteza să ne definească, cred că o să fim ok.

Și, chiar dacă pe termen scurt-mediu vor fi turbulențe în societate, pe termen lung AI ne poate aduce o viață mai lungă, mai sănătoasă, mai bună, mai safe, și poate chiar mai aproape de ce înseamnă să fii om.