Unii lideri din tech se joacă de-a istoria mondială, crede Stuart Russell, pionier al inteligenței artificiale și fondator al Center for Human-Compatible AI la UC Berkeley. Într-un interviu acordat lui Niels Gilman pentru podcastul Futurology, el vorbește despre cursa oarbă și irațională către AGI (Artificial General Intelligence).
Problema Controlului
Abordarea de tip Large Language Models care mimează trilioane de interacțiuni umane și-a atins oarecum plafonul, crede Stuart Russel. Pericolul vine dinspre modelele de raționament care învață cum să gândească și, teoretic, nu au limitări.
„Întrebarea pe care am pus-o în manualul meu din 1994, ce se întâmplă dacă reușim?, chiar nu avea un răspuns... și forma sub care mi-a apărut în minte a fost următoarea: Cum reținem puterea pentru totdeauna asupra unor entități care sunt mai puternice decât noi înșine? De aceea aveam părul în flăcări, ca să zic așa.”
În anii '50, Turing spunea: Trebuie să ne așteptăm ca mașinile să preia controlul. De ce ar construi cineva ceva despre care admite că prezintă un risc de extincție? Russell argumentează că, marile companii sunt captive într-o cursă automată: dacă se opresc, sunt scoși din joc de investitori.
"Probabil nu este vorba atât de bani în sine, cât de sentimentul de a fi o figură istorică mondială. De a fi persoana care a mutat rasa umană dintr-o epocă în alta, de a rămâne în istorie drept una dintre cele mai importante figuri din toată istoria speciei noastre. Și pot doar să îmi imaginez ce fel de efect are asta asupra psihologiei oamenilor", spune Russell.
Reglementările din tech lipsesc cu desăvârșire comparativ cu normele stricte din construcții, aviație sau medicină. Industria AI funcționează fără responsabilitate legală.
Lenea Cognitivă
Impactul asupra individului e deja vizibil: de-profesionalizarea cognitivă. Dependența de asistența artificială anihilează capacitatea umană de efort mental.
„Ceea ce se întâmplă cu sistemele AI acum, și văd asta nu doar în clipuri online, ci în viața reală, este un proces de de-profesionalizare cognitivă care este deprimant de rapid. Oamenii spun: Da, știi, prietenii mei nu mai pot gândi singuri. Devin complet dependenți pe parcursul a câtorva săptămâni în a cere pur și simplu sistemului AI orice, și nu mai pot funcționa ca ființe umane.”
Pentru a evita să devenim complet dependenți de mașini, Russell mizează pe reinventarea scopului uman. Crede că educația trebuie să iasă din paradigma industrială și să se axeze pe dezvoltarea personală, empatie și mentorat inter-uman.
„Aș spune că cel mai probabil viitor pozitiv este unul în care rolurile interpersonale sunt scopul tău. Nu să fii unul dintre cei o mie de oameni care sunt rotițe într-o mașinărie gigantică... ci interpersonal. Este o lume foarte diferită, care înseamnă un sistem de educație total diferit față de cel pe care îl avem acum.”
Toate aceste îngrijorări nu trebuie să ducă la limitarea progresului. Dar e nevoie de regândirea modului în care tehnologia e integrată. Omenirea are nevoie de un nou echilibru.
