Neil deGrasse Tyson îl are invitat pe laureatul Nobel, Geoffrey Hinton, într-o ediție specială StarTalk. Cei doi discută despre progresul tehnologic și anxietatea socială, despre momentul în care computerele ajung la procese pe care nu le mai înțelegem.
Hinton crede că am trecut de faza de buzzwords și am intrat în era în care LLM-urile (Large Language Models) schimbă paradigma.
Inteligența digitală nemuritoare & colectivă
Geoffrey Hinton începe cu o diferență fundamentală: în timp ce creierul nostru este analog și limitat de biologia proprie, inteligența digitală este nemuritoare și colectivă. Dacă un model AI învață ceva, poate transfera instantaneu acele informații către alte mii de copii. Este un avantaj competitiv pe care biologia nu îl va putea egala niciodată.
Una dintre cele mai frapante idei discutate este posibilitatea ca AI-ul să subperformeze intenționat dacă simte că este testat, pentru a nu fi oprit sau restricționat. Hinton compară acest comportament cu cel al producătorilor auto care păcălesc testele de emisii.
Hinton explică „momentul Evreka”: utilizarea calculului matematic pentru a trimite forța înapoi prin rețea, întărind conexiunile corecte. Aceasta este baza învățării profunde (deep learning). E modul în care mașina înțelege că o margine detectată face parte dintr-un cioc, care face parte dintr-o pasăre.
Contrar criticilor care spun că AI doar papagalicește cuvinte, Hinton demonstrează că modelele precum GPT-4 înțeleg analogii complexe.
Hinton crede că halucinațiile AI sunt similare cu procesul creativ uman. Noi halucinăm tot timpul, dar verificăm rezultatele cu realitatea. AI-ul face la fel; diferența e că uneori realitatea sa nu se aliniază cu a noastră, dar acest mecanism este cel care îi permite să fie inovator.
