În cadrul unei dezbateri găzduite de World Science Festival, Gary Marcus, cercetător în științe cognitive, antreprenor și autor, discută cu Brian Greene despre mitul raționamentului algoritmilor și avertizează asupra capcanei cognitive în care oamenii pot cădea atunci când proiectează intenție și conștiință asupra unor simple mașinării de corelare a datelor.
Discuția vrea să facă loc pentru puțină luciditate științifică într-un peisaj public dominat emoții puternice și predicții exagerate. Pe măsură ce modelele de limbaj devin tot mai integrate în workflow-urile din agenții, corporații și educație, granița dintre competența lingvistică și înțelegerea semantică reală devine din ce în ce mai neclară pentru utilizatorul de rând. Marcus explică structura matematică din spatele minții artificiale, arătând decalajul între aparență și esență.
Halucinațiile AI nu sunt erori de sistem
Rețelele neuronale AI actuale nu funcționează ca niște baze de date logice. Ele sunt optimizate matematic pentru a prezice următorul cuvânt dintr-un text, bazându-se pe tiparele statistice extrase din volumele gigantice de date pe care au fost antrenate.
Atunci când un AI generează o lucrare academică sau oferă o soluție tehnică, el nu accesează un concept al adevărului obiectiv, ci aranjează cuvintele în formatul cel mai plauzibil din punct de vedere statistic. Din acest motiv, halucinațiile nu sunt erori de sistem, ci caracteristici fundamentale ale arhitecturii lor.
Capcana antropomorfizării
Un subiect important discutat este psihologia utilizatorului uman. Oamenii sunt programați evolutiv să asocieze fluența limbajului cu existența unei stări mentale interne - conștiință, logică, intenție. Deoarece modelele AI livrează răspunsuri cu o încredere sintactică absolută și fără ezitări, utilizatorii le atribuie calități de experți umani. Această „seducție a prezentării autoritare” maschează faptul că algoritmul nu are nicio reprezentare conceptuală sau ancorare în lumea fizică reală pentru cuvintele pe care le folosește, crede Marcus.
În acest context, cercetătorul pune la îndoială dogma din Silicon Valley conform căreia simpla adăugare de date, putere de calcul și tehnici de tip Chain-of-Thought va duce în mod organic la apariția unei inteligențe generale (AGI).
Modelele actuale procesează informația liniar și nu posedă un model intern de verificare a realității sau un loop de autoreglare capabil să testeze ipoteze înainte de a le exprima, arată Marcus.
Nevoia de noi paradigme
Pentru ca AI-ul să treacă de la mimarea inteligenței la raționament autentic, industria trebuie să migreze dincolo de simplele transformatoare generative către arhitecturi bazate pe modele din lumea fizică sau sisteme neuro-simbolice capabile de logică matematică discretă.
Generarea probabilistă înseamnă că există întotdeauna o șansă ca un token plauzibil din punct de vedere gramatical, dar complet fals din punct de vedere istoric sau factual, să fie selectat, insistă Gary Marcus.
