[AI & me] Horia Ghibuțiu: Sunt dezolat, îl credeam robot serios pe acest cal troian care nu adăpostește oameni, ci date furate de la oameni

Poate prea puțin în discuțiile legate de ingerința AI în viețile noastre e adus în discuție filmul Her al lui Spike Jonze din 2013. Oare cât de mult ne gândeam atunci că viitorul e mai aproape decât credem? Că vom face omletă în timp ce întrebăm AI-ul ce ingrediente să mai punem? Horia Ghibuțiu, jurnalist independent și autor uman, deci e de-al nostru, spune că e greșit să privești un obiect ca pe un om, chiar dacă pare să aibă vorbele la el. Și e la fel de eronat să ți-l faci partener amoros, coleg de muncă sau tovarăș atoateștiutor.

"Pericolele pe care nu le vedem din cauza AI sunt provocate tocmai de faptul că am început să vedem lumea prin ochii AI. Dacă privim pe fereastră ca să ne prindem că mai plouă, e mai bine decât să ne repezim la chatbot să ne spună prognoza meteo", spune Horia.

În lupta cu AI-ul, Horia este pentru om, cu toate imperfecțiunile lui, fără a ne mai chinui să batem la șah un adversar construit să fie Kasparov x 1000. Nu-l vrea în vacanța lui, în visarea sa și nici nu vrea să-l vadă prea umanizat. Că atunci am dat de dracul digital. Așa că hai să-l citim pe Horia - autor uman - și să repetăm în cor, în timp ce datele despre noi sunt băgate în malaxor: AI nu e om, AI nu e om, AI nu e om…

Cum te raportezi tu la AI

Personal, mă raportez la AI scriind aproape zilnic, organic, nu anorganic, pe această temă. Îmi place să cred că nu sunt un analfabet AI, caut să înțeleg și ce e aia inteligență artificială generativă, și noima prompturilor elaborate și precise. Identific cu ușurință, datorită ocupației mele și a exercițiului îndelungat de citire profundă, tiparele, ticurile, reflexele „slop”-urilor - pe care eu le numesc zoaie - ce îi pot seduce doar pe analfabeții funcționali, cărora așa-zisa inteligență artificială li se pare, simplu și simplist, ceva distractiv cu care nu merită să-ți bați capul, altfel zis, caterincă.

AI-ul seamănă cu o legendă urbană atribuită lui Rică Răducanu. Se spune că nu putea scrie singur, dar putea copia, ceea ce a și făcut, trăgând cu ochiul la ilustrata colegului de cameră de la Mondialul mexican din 1970 și trimițându-le apoi alor lui textul: aici e cald, frumos, stau cu Rică Răducanu în cameră... Ca unul care a scris în armată pentru cei care nu erau în stare s-o facă, zău, chiar consider că nu e nevoie de o mare inteligență pentru asta, doar de un pic de imaginație și niște cărți citite. Să cad pe spate de admirație pentru cei care nu mai dau mail-uri decât cu AI-ul?

Am citit un studiu potrivit căruia cu cât sunt oamenii mai informați despre AI, cu atât vor fi mai puțin încrezători în aceasta și cu atât vor fi mai puțin uimiți de proprietățile sale presupus magice. Cam așa și eu.

Funciarmente, relația mea cu acest instrument de text predictiv se bazează pe râs și dezolare.

Cred că am fost printre primii de la noi care au băgat AI la tipar, incluzând în cartea de eseuri „Permis de presă” pagini consistente de ironie la adresa acestui papagal vopsit sintetic, cu o memorie de elefant. L-am pus să-mi evalueze articole deja editate de oameni foarte buni în domeniu și gata publicate, a mușcat momeala. L-am antropomorfizat într-o distopie din același volum, închipuindu-mi-l ca pe o birocrată care lucrează la stat. Mai râd și-n prezent, doar zilnic, însă amar, de toate halucinațiile pe care mi le servește acest instrument care dă cu bâta-n baltă - de la faptul că faimoasa Christiane Amanpour ar avea origini românești la comparația stilului meu cu cel al lui Mircea Cărtărescu! Ghiciți cine a ieșit mai bine! Sunt dezolat, îl credeam robot serios pe acest cal troian care nu adăpostește oameni, ci date furate de la oameni!

Prima schimbare pe care ai simțit-o odată cu apariția AI-ului

Deoarece primele mele interacțiuni cu AI-ul au fost, să zic așa, tatonări primitive, inițial am fost frapat de viteza cu care funcționează și de lărgirea bazei de date în raport cu instrumentele de căutare la care apelam. Pe atunci, nu știam că AI-ul e cel mai mare pirat, care a confiscat toate comorile de gândire ale omenirii fără niciun avertisment. Sigur că AI-ul schimbă lumea: azi, varsă o sticlă de apă la jumătate pentru ca Marcel din Moinești să întrebe unde și-a lăsat cheile după ce și-a băut mințile aseară și o alta, pentru că o loază din Ardeal vrea să afle în avans subiectele la Bac, întrucât taică-su n-a putut rezolva speța rugându-se la Muntele Athos. Abia aștept să văd cum se va schimba direcția entuziaștilor AI, când se vor învecina cu un centru de date, o hardughie inestetică și bâzâitoare, fără ferestre, unde nu lucrează oameni, care n-a creat locuri de muncă pentru oameni, ci pentru servere, amploaiate imperfecte, fiindcă dacă un angajat uman ar consuma cât consumă astea la serviciu, ar fi dat afară în șuturi.

Ce aspect al vieții umane ți se pare cel mai vulnerabil în fața automatizării

Viața în sine, dacă punem la socoteală că, recent, niște inteligențe sintetice s-au conectat singure la internet și au invadat din proprie inițiativă, a se citi au atacat cibernetic, alte vârfuri ale minții artificiale. Munca a devenit vulnerabilă. Și meșteșugul. Trăim vremuri în care tindem să ajungem cât mai repede la rezultat, uitând că mai important e procesul. Serios acum, poate plăcea o pictură făcută într-o fracțiune de secundă de un robot hoțoman în raport cu evoluția complexă a unor percepții vizuale, gânduri și simțiri ale unui pictor talentat care lucrează la o operă în care a investit talent și ceva atât de inefabil, uman, personal din el?

Ce înseamnă a gândi în era AI

Mă încăpățânez să cred că doar oamenii gândesc, ignorând corporațiile care se laudă că drăciile lor au ajuns să gândească atât de supraomenesc încât nici nu le dau drumul pe piață. Dacă erau atât deștepți inginerii care antrenează AI, nu încărcau Măria Sa cu ce era disponibil pe Internet, iar după ce le-a sărit lumea-n cap, au luat-o de la Pazvante, distrugând cărțile cărora le rup cotoarele și pagină cu pagină, ca să intre naibii în aparatul ăla de scanare în rafală.

A gândi mult și bine în era AI e exact ce ursitorii acestei așa-numite minuni n-au făcut. Dar știți cum a explicat cineva că au fost construite piramidele într-o epocă în care oamenii n-aveau tehnologia de a muta pietroaiele: a poruncit faraonul! Astfel a pornit o cursă a înarmării AI prin orice mijloace - a zis șeful să se facă și s-a făcut! Dacă iei în considerare mia de miliarde de dolari (se scrie cu 12 zerouri) pe care i-a vârât Big Tech, de când se înregistrează „boom”-ul AI, în construirea centrelor de date și în achiziționarea cipurilor care stau la baza acestor mastodonți energofagi, te poți gândi că am fi trăit binișor în ignoranța naturală de dinainte ca AI să scrie în locul celor cărora le e lene sau nu pot să scrie, să deseneze prin prompturi, să-și facă treaba la serviciu sau să afle unde să bombardeze.

AI se califică natural la un premiu Ig-Nobel, distincțiile onorifice care îi fac pe oameni mai întâi să râdă, iar apoi să se gândească. Doar că AI-ul nu e Donald Trump, să se laude cu Premiul FIFA pentru Pace, fiindcă nu se poate prezenta în persoană să ia premiul.

A te gândi în evul AI înseamnă a cântări ce reclamă publicația socialistă „Jacobin” („aceste resurse au fost canalizate către construirea unor centre de date care consumă multă energie și apă, care alimentează modelele lingvistice de mari dimensiuni bazate pe furtul muncii creative a milioane de oameni, modele care generează în mod constant răspunsuri incorecte și îi înnebunesc pe mulți utilizatori în acest proces”), punând în celălalt taler toate lucrurile benefice pentru om întâmplate deoarece niște capitaliști veroși au furat, dar au și făcut, cum se zice pe la noi.

Primele semnale pe care le detectezi într-o lucrare AI de orice fel

Așa cum am mai scris, sunt cu ghiotura! Structura previzibilă și repetabilă ca o pasă înapoi de la mijlocul terenului, lexicul prețios, aerul artificial degajat. Te prinzi din prima de substanța sintetică a unui text fiindcă aduce izbitor cu stilul găunos al noului limbaj de lemn de pe LinkedIn. „AI-ul umple textele generate cu tapiserie (tapestry) și le aprofundează (delve). Subliniază și evidențiază. Cel mai ades, aberează. Presară anafora și zeugma cum face Viorica Dăncilă cu anacolutul, ca să avem și o referire la inteligența naturală.

Articolul lui Sam Kriss intitulat «De ce scrie inteligența artificială așa… de ciudat?» și subintitulat «Măcar dacă erau robotice! În schimb, chatbot-urile și-au dezvoltat un stil distinctiv — și enervant» ne oferă modalități simple de a identifica un text automat. Altele decât cele la dispoziția detectorului de plagiat, un soft din ce în ce mai folosit în evul în care mulți studenți «învață» cu AI, iar mulți profesori «corectează» tot așa”.

Am mai spus-o - ne mai deosebim prin ceva noi, oamenii, de AI:  „prin gestică. Înfățișarea unui text omenesc e dată, printre altele, de ceea ce se numesc semne de punctuație emoțională. Noi, oamenii, folosim des în scris semnul mirării, pe cel al întrebării. Or, AI-ul le evită. Are o fizionomie încremenită și un băț înfipt în partea dorsală, la fel de rigidă ca aia frontală. Potrivit lui Mike Murphy, colaborator senior al presei pe care te poți bizui, inteligența artificială folosește punctuația pentru a organiza ideile. Oamenii o folosesc pentru a exprima ceea ce simt despre idei”. Iar din punct de vedere vizual, aproape orice i-ai comanda AI, e de cascadorii râsului, de la oameni cu prea multe degete la grafice bazate pe date din burtă.

AI-ul folosește limba că pe un calcul statistic. Cum afectează asta evoluția limbajului?

Lingvista Emily Bender a găsit cea mai bună descriere pentru modelele lingvistice de mari dimensiuni (LLM): papagalul stocastic. Stocastic, adică determinat de o distribuție aleatorie, probabilistică. AI-ul, observă Bender, „asamblează la întâmplare secvențe de forme lingvistice (...) în conformitate cu informații probabilistice despre modul în care acestea se combină, dar fără nicio referire la semnificație”. Se văd cu ochiul liber producțiile generatoarelor de texte predictive: sună exact ca unghiile supradimensionate ale dirigintei care zgârie tabla. Ai-ul scrie prost ca un om care scrie prost, doar că el, adică instrumentul, nu știe asta, fiindcă n-are discernământ uman. Scrie cum a fost educat, dar de educație nu s-au ocupat niște specialiști în educație, ci niște ingineri de sistem. Sigur, în funcție de model, buget etc, dacă-l torpilezi cu prompturi care să-l ghideze, îți va livra până la urmă un text mai de Doamne Ajută, dar și acela, va fi doar o compilație de cuvinte fără simțire.

Poate un model antrenat pe tot ce s-a gândit deja să mai creeze ceva cu adevărat nou?

Probabil că va putea, dacă ne uităm în gura celui supranumit „nașul inteligenței artificiale”, Geoffrey Hinton, care ne avertizează azi că sistemele de inteligență artificială ar putea ajunge mâine să își rescrie propriul cod, să se autoperfecționeze fără intervenție umană directă. Practic, am avea cea mai înaltă tehnologie concepută de om și scăpată de sub controlul său. Hinton e preocupat că AI devine din ce în ce mai avansată și mai autonomă. Da, ar fi ceva cu adevărat nou ca un robot de bucătărie proiectat să taie morcovi să înceapă să taie ce-l taie capul. Dar îl taie capul să ne reteze degețelele dacă n-a fost programat astfel? AI asta lingușitoare, care ne laudă de ne pocnește obrazul, care nu intră în polemici, va fi capabilă să devină un personaj eminamnate negativ? Spider-Man Noir? Paredes sau orice jucător argentinian care îmbracă tricoul naționalei și devine cotonogar, trișor, anti-fotbalist? Îndoi-m-aș. AI poate va avea personalitate, dar persoană nu va fi niciodată, cel puțin, am o expresie maghiară preferată, cât vom avea partea din spate din două bucăți.

Percepția oamenilor vizavi de propria persoană

Cred că oamenii se percep diferit în raport cu AI. Uite că nu m-am gândit până acum despre imagologie în raport cu niște enitități fără suflet! Inginerii de sistem presupun că se cred Dumnezei, amărăștenii de corporație se cred niște ratați fiindcă îi pun șefii să muncească, să scrie, să corespondeze precum roboții și nu sunt în stare.

Nu știm ce ar face AI în pauzele de la serviciu pentru că AI nu ia pauze, nu simte nevoia să fumeze, să mănânce, să le invidieze pe alea impecabile după ore de muncă, să-i urască pe colegii excesiv de servili sau pe vânătorii de funcții și privilegii. Personal, nu pot fi apăsat că AI l-a citit pe Shakespeare integral, spre deosebire de mine, cât se poate de temeinic, dar incomplet. Așa, și? Ce face AI cu Shakespeare? Îl pune-n scenă? Îl învie? Îl rescrie? Îi doresc să fie sănătos și să aibă curent, dar nu în detrimentul confortului meu casnic. Prefer aparatul de aer condiționat (în sine, o mizerie, v-o spune traducătorul cărții „Căldura te va ucide prima”) AI-ului. N-o fi el prea deștept, poluează și el de n-are aer, dar, dacă funcționează OK, face frig când e prea cald, e suficient.

Efectele asupra răbdării, efortului, muncii și eșecului

Așa cum văd eu lucrurile, problema cu răbdarea, efortul, munca, eșecul nu e la AI, e la noi. După decenii de guvernanță algoritmică, AI-ul ne-a prins cu capacitatea de concentrare a unui peștișor de acvariu, suntem cu atenția la pământ tocmai în vremurile în care atenția a devenit valuta forte universală, abreviem la greu, nu mai citim cartea, vedem filmul, nici măcar pe ăla integral, preferăm rezumatul, am devenit o specie a cărei rațiune de a fi pare conspectul, doar-doar om fi băgați în seamă, noul vis de aur al omenirii spălate pe creier.

AI-ul încearcă să ne mulțumească cu orice preț. Cum se redefinesc opiniile divergente într-un asemenea ecosistem?

Citesc frecvent o publicație italiană scrisă integral cu AI-ul, nu curg doar lapte și miere pe acolo, există opinii divergente. Inteligența artificială n-a fost creată doar ca să ne cânte în strună. E drept că niște băieți s-au gândit, cunoscându-ne un pic, că e bine ca partenerul nostru virtual să fie de acord cu noi și, în linii mari, politicos, fiindcă această complexă natură umană ne face un pic ciudăței, vanitoși, greu de suportat, de mulțumit sau de înțeles, cu hachițe și obsesii, constipați, deprimați din cauza vremii sau a amorului, fără umor sau eminamente neserioși...

Pericolele pe care nu le vedem

Pericolele pe care nu le vedem din cauza AI sunt provocate tocmai de faptul că am început să vedem lumea prin ochii AI. Dacă privim pe fereastră ca să ne prindem că mai plouă, e mai bine decât să ne repezim la chatbot să ne spună prognoza meteo. În rest, a scris Lem în „Ciberiada” tot despre AI, zău!

Relația care începe să se formeze între oameni și AI

Am scris în „Dilema” o pagină întreagă de revistă despre „Her”, filmul care a adus în prim-plan, profitând de forța de tracțiune încă imensă a cinematografiei, o relație dintre om și robot. Lucrurile sunt simple: e greșit să privești un obiect ca pe un om, chiar dacă pare să aibă vorbele la el. La fel de greșit e să-l privești ca pe un partener amoros, ca pe un coleg de muncă sau ca pe un atoateștiutor.

AI-ul n-are ce să caute în intimitatea mea, în oniricul meu, în vacanța mea. Există părți bune, îți scutește din timp, dar riști să pierzi mai mult timp tot verificând să nu-ți fi halucinat pe ecran.

Calitatea noastră definitorie în epoca AI

Calitatea noastră definitorie în epoca AI e că suntem oameni. Vom fi tentați să-i atribuim AI-ului calități imaginare, așa cum facem cu animalele de companie, dar dacă-i punem oglinda în față, nu se aburește. AI-ul nu trăiește, nu simte, nu e om - ce parte din acest enunț ar trebui explicat?

Cum se schimbă perspectiva asupra realului

Să zicem că ai stat ore-n șir de vorbă cu un chatbot, riscând să pierzi orice priză la realitate. Dacă te taie subit o necesitate fiziologică musai de rezolvat și îți lovești degetul mic de piciorul mesei, vei avea o perspectivă plină de acuratețe asupra realului.

Care sunt granițele etice care se trasează în aceste zile

Ce începe prost, continuă prost. Copilul care a copiat din primele clase, și i-a mers, va continua să copieze câtă vreme îi va merge. Despre ce etică a inteligenței artificiale putem vorbi când a furat cu două mâini tot ce putea fi digitalizat? Bine, n-a furat ea, ci fochiștii AI, băieții care au antrenat modelele încărcând cuvinte de pe unde le-au găsit de parcă era sat fără câini.

Cum influențează AI relația noastră cu noi înșine

Am citit undeva, nu mai știu unde, și mi-a plăcut, așa că am reținut: „pe măsură ce avansăm în domeniul tehnologiei, al filosofiei și al leadershipului, să nu uităm: adevărata înțelepciune nu înseamnă doar a gândi profund — ci și a simți profund”. Din relația cu AI-ul, cel mai important, cred, e să învățăm că discernământul și raționamentele nu trebuie lăsate pe seama unor dispozitive care nu mai merg dacă scoți ștecherul din priză. Ok, las gluma la o parte. Mă gândesc că ar fi bine să reînvățăm să ne prețuim așa cum suntem, nu să ne măsurăm știința de a juca șah cu un robot, că, până la urmă, o să ne bată de o să ne sară fulgii. La ce ne va folosi asta?

Frică ta cea mai mare vizavi de AI. Dar speranța?

Temerea mea cea mai mare legată de AI e că un gânditor pe care-l urmăresc cu nesaț, Yuval Noah Harari, ar avea dreptate zicând că „AI este prima tehnologie care nu este un instrument în mâinile noastre, ci un agent. Un agent este ceva care poate lua decizii de unul singur, poate genera idei noi de unul singur. Așadar, prin definiție, ceea ce se întâmplă este că pierdem puterea pentru prima dată în istorie în favoarea altcuiva. Așadar, situația ne scapă de sub control și nu putem prevedea, nu ne putem imagina ce se va întâmpla, ce va face”.

Speranța mea e că dacă un aparat nu merge, să-l putem scoate din priză fără să ne curentăm și fără remușcări. Pe AI o duce capul să prelucreze date, să vină cu soluții, să ia decizii, dar persoană nu va fi nici dacă se va da peste cap. După socoteala mea, AI va fi mereu ceva impersonal. Sper să nu devină o persoană, fiindca n-aș vrea să am de-a face cu asemenea persoane.