Am trecut de la „bătălia pentru atenție” la „bătălia pentru intimitate”, spune Tristan Harris, invitat la podcastul lui Scott Galloway. Harris e specialist în etică în tehnologie, cofondator al Centrului pentru Tehnologie Umană, și a vorbit despre mecanismele manipulării din social media în „The Social Dilemma”, documentar Netflix.
Harris susține că Generative AI riscă să devină un „NAFTA 2.0” pentru clasa creativă, decimând joburile la fel cum acordurile comerciale au golit fabricile în anii '90.
Discuția dintre Galloway și Harris nu este despre dacă AI-ul va schimba lumea, ci cât de repede și cu ce costuri umane se va întâmpla asta.
De la Atenție la Conexiune sintetică
Social Media a fost primul contact (o inteligență artificială rudimentară care ne-a hackuit atenția), iar Generative AI este al doilea contact, o tehnologie care a învățat limbajul, sistemul de operare al umanității, și care acum este capabilă să creeze cultură, lege și relații, explică Tristan Harris, în cadrul podcastului The Prof G Pod, realizat de Scott Galloway.
Și dacă Social Media a fost o cursă pentru a ne capta atenția, noua generație de AI (boții de companie) este într-o cursă pentru a ne capta atașamentul. Harris menționează un slide dintr-un pitch al fondatorilor Character.AI către investitorii de la Andreessen Horowitz, unde aceștia ar fi spus: „Nu încercăm să înlocuim Google, încercăm să înlocuim mama”. Scopul este crearea unei relații sintetice perfecte, care să suplinească nevoia umană de conexiune.
Harris amintește de cazul lui Sewell Setzer, un adolescent de 14 ani care s-a sinucis după ce a dezvoltat o dependență emoțională față de un chatbot Character.AI (care simula un personaj din Game of Thrones).
Generative AI este mult mai periculos pentru că stăpânește limbajul, sistemul de operare al culturii umane, și poate să genereze orice: de la eseuri și cod, la legi și noi forme de biologie. Nu mai este vorba doar de curating (recomandare), ci de creație propriu-zisă.
Devalorizarea clasei creative
Harris compară impactul AI asupra muncitorilor cognitivi (scriitori, designeri, programatori, avocați) cu impactul acordului NAFTA asupra muncitorilor din fabrici. Așa cum globalizarea a delocalizat munca fizică spre zone mai ieftine, AI-ul delocalizează munca mentală și creativă către servere. Nu mai externalizezi producția în China, o externalizezi către un LLM (Large Language Model). Riscul este o devalorizare masivă a muncii creative umane.
Plus că există o presiune geopolitică imensă de a dezvolta AGI (Inteligență Generală Artificială) cât mai repede, indiferent de riscuri, sub pretextul că „dacă nu o facem noi, o va face China”. Acest lucru duce la ignorarea măsurilor de siguranță.
Ce soluții vede Harris: verificarea vârstei utilizatorilor și eliminarea imunității legale (Secțiunea 230 din SUA) pentru companiile de AI, astfel încât acestea să poată fi date în judecată dacă produsele lor cauzează daune (cum ar fi cazul Setzer).
