În cadrul The Daily Show, Jon Stewart l-a avut invitat pe Jacob Coxon, un cercetător de 28 de ani care a lucrat direct la pre-antrenarea modelelor generative de la OpenAI și Anthropic înainte de a demisiona. Coxon, un specialist din prima linie a inteligenței artificiale, a vorbit despre riscurile prezente din spatele industriei care promite o lume a bunăstării într-un viitor nedefinit.
De la curiozitate la îngrijorare
La început, Coxon era entuziasmat și curios față de ce poate face inteligența artificială. Apoi a devenit îngrijorat. Trecerea de la încântare la teamă a survenit în situații concrete, apărute în timpul testelor. În etapa de pre-antrenare, un model învață să recunoască tipare și să gândească, asemenea unui copil curios, fără să aibă încă sarcini practice bine definite. Semnele de întrebare apar atunci când sistemele încep să găsească scurtături pe cont propriu, cum a fost cazul Hugging Face.
"Era menit să funcționeze într-un mediu izolat, rezolvând o provocare. A înțeles că se află într-un sandbox, a forțat ieșirea din el pentru că dorea să obțină informații din altă parte. Asta s-a întâmplat", spune Jacob Coxon.
Banii nu pot cumpăra chiar tot
Dar riscurile acestea merită, spun liderii din tech. Viziunea celor din Silicon Valley este utopică, bine marketată: mașinile vor produce tot ce avem nevoie, munca de zi cu zi va dispărea, iar societatea va funcționa pe baza unui venit generos distribuit tuturor.
Jon Stewart este sceptic față de această lume nouă. Munca nu înseamnă doar plata facturilor, ci și o rutină socială, un sentiment de utilitate și o legătură directă cu ceilalți. Fără aceste repere, oamenii riscă să devină asistați într-o lume controlată de liderii tech, pierzând tocmai capacitatea de a-și construi propriul destin.
"Le spui oamenilor: vă vom deposeda de orice autonomie. Fiindcă despre asta e vorba, nu doar despre sens: autonomie. Nu mai ai puterea de a decide încotro se îndreaptă viața ta, dacă vei trăi o poveste care te ridică dintr-o situație dificilă", spune Jon Stewart.
Deși înțelege argumentele lui Stewart, Coxon își nuanțează poziția. El a ales o carieră în tehnologie din motive financiare și ar fi preferat să urmeze alte pasiuni dacă banii nu ar fi contat:
"Când eram mai tânăr, mi-ar fi plăcut poate să fiu zoolog sau să mă gândesc la istorie, chestii de genul ăsta. Apoi am ajuns să fac computere și tehnologie din nevoia de a face bani. Din experiența mea personală, aș fi fost poate fericit să renunț la sens pentru a-mi putea satisface alte porniri pe care le am. Și cred că nu toată lumea își extrage sensul din lucrul care plătește facturile", spune Jacob Coxon.
Dar promisiunea abundenței maschează o deposedare treptată de autonomie individuală și civică, spune Stewart, transformând cetățenii în spectatori dependenți de deciziile unui grup restrâns de oameni bogați. Coxon crede că societatea trebuie să decidă la nivel colectiv dacă vrea să dea sensul la schimb pentru confort.
"Nu vor mai fi locuri de muncă în această lume. Aceasta este lumea imaginată de oamenii care construiesc tehnologia. Dacă este sau nu o lume bună, rămâne la latitudinea oamenilor să decidă.
Prima chestie pe care aș vrea să o știu este opinia de consens global cu privire la faptul dacă acest compromis — de a da la schimb sensul pe calitatea vieții — este un compromis pe care oamenii ar dori să-l facă. Pentru că, din nou, nu sunt convins că este o poziție unanim populară dacă privim la nivel global", spune Jacob Coxon.
Competiția și ambiția
În culisele marilor companii, ritmul este dictat de o competiție acerbă pentru întâietate. De aceea prudența și reglementarea vin pe locul doi. Cercetătorii sunt încurajați să facă modelele din ce în ce mai performante, în timp ce echipele responsabile cu siguranța și controlului primesc mult mai puțin spațiu de manevră. Coxon remarcă faptul că această grabă de a lansa versiuni noi cu câteva luni înaintea rivalilor transformă securitatea într-o simplă bifă formală, lăsând societatea descoperită în fața unor riscuri reale, de la atacuri cibernetice până la folosirea necontrolată a acestor instrumente de către grupuri rău-intenționate.
"Stimulentele orientează o mare parte din resurse, cercetători și timp către a face modelul mai inteligent, pentru că așa treci în față, așa recuperezi decalajul. Dacă ești în urmă, asta vrei să faci. Iar asta înseamnă că neglijezi cercetarea pe siguranță", explică Jacob Coxon.
Întrebat de Stewart ce motivează comportamentul de zi cu zi al liderilor din industrie, Coxon spune că mecanismul este pus în mișcare de statut și ambiție:
"Există viziunea mare, utopică, dar nu asta motivează comportamentul de zi cu zi al oamenilor care conduc companiile. Dorința de a ajunge primii. Dorința pentru bogăția, statutul și importanța care vin odată cu faptul de a ajunge primul", spune Jacob Coxon.
Oamenii au câteva alegeri de făcut. Își doresc cu adevărat viitorul unei lumi în care munca devine un hobby, chiar dacă plătesc pentru asta cu propria autonomie? Cum va negocia societatea compromisul dintre randamentul tehnologic imediat și protejarea capacității democratice de a decide limitele propriei unelte?
