Laureat al Premiului Nobel pentru Fizică, Geoffrey Hinton, denumit și "Nașul AI", explică momentul care ne aflăm în dezvoltarea Inteligenței Artificiale. Discuția este moderată de Joel Hellermark, fondator Sana, care îl provoacă pe Hinton, să detalieze viziunea sa despre evoluția arhitecturilor AI și limitele inteligenței umane.
Premiul Nobel
Conversația debutează cu o doză de autoironie legată de recunoașterea academică supremă. Domeniul de bază al lui Hinton s-a aflat la intersecția dintre psihologie cognitivă și computer science, motiv pentru care vestea premiului Nobel i s-a părut ireală.
„Să fiu sincer, m-am plimbat câteva zile după aceea făcând un mic calcul bayesian: care este probabilitatea ca un psiholog teoretic ascuns în știința calculatoarelor să primească Premiul Nobel în fizică? Păi, poate una la două milioane. Acum, care este probabilitatea ca, dacă acesta este visul meu, să primesc Premiul Nobel în fizică? Păi, poate una la două. Deci asta înseamnă că e de un milion de ori mai probabil să fie un vis decât realitatea.”
Limitele inteligenței umane
Întrebat dacă oamenii au atins un plafon al inteligenței sau dacă noile modele AI vor atinge un IQ de 300, Hinton a subliniat că procesele digitale sunt fundamental mai rapide în bucla lor de evoluție în comparație cu biologia.
Hinton trage un semnal de alarmă legat de reticența societății de a accepta statutul noilor sisteme. El propune o paralelă istorică cu descoperirea lui Copernic, anticipând o rezistență dogmatică.
„Cred că dacă ne uităm la istoria umanității... a existat revoluția lui Copernic și le-a luat oamenilor mult timp să accepte că pământul nu era centrul universului. Apoi a fost revoluția darwiniană. Le-a luat oamenilor mult timp să accepte că suntem animale. Cred că avem parte de o nouă revoluție care vine, când nu vom mai fi singurele ființe din jur. Cred că noi creăm ființe. Și le va lua oamenilor foarte mult timp să fie fericiți să spună că noi creăm ființe.”
Pornind de la exemplul AlphaZero (care a învățat jucând Go contra sa însuși, ignorând datele din meciuri jucate de oameni), Hinton prezice că modelele de limbaj mari (LLM) vor adopta rapid tehnici prin care se vor contrazice logic intern și își vor rafina singure concluziile, fără a mai avea nevoie de date masive de pre-antrenament.
Prea multă inteligență
Când a venit vorba despre responsabilitatea companiilor de tehnologie, Hinton a criticat concentrarea lab-urilor pe inteligență brută din dorința de a se lista la bursă.
„Toată lumea urmărește mai multă inteligență. Dar dacă te gândești la o ființă, există mult mai mult într-o ființă decât inteligența. Noi creăm aceste ființe și ar trebui să fim foarte preocupați să le facem ființe cărora le pasă de noi... ceea ce avem acum este această cursă competitivă între companii pentru a face cel mai inteligent AI posibil, care poate face cele mai multe lucruri. Asta va duce la ființe care nu vor fi drăguțe cu noi. Trebuie să le proiectăm să fie cumsecade.”
Hinton crede că viitorul este modelat de integrarea așa-numitelor „fast weights” – o arhitectură inspirată din felul în care sinapsele noastre se adaptează rapid, permițând o învățare agilă pe termen scurt, ceva ce modelele bazate pe matrici matematice fixe încă nu au.
„Ți-ai învăța copilul să citească folosind jurnalele criminalilor în serie? Probabil că nu. Dacă vrei să crești un copil cumsecade, ar trebui pur și simplu să te uiți la ce s-a întâmplat când a fost crescut Trump și să faci exact pe dos. Deci ar trebui să curăm acele date extrem de mult, astfel încât să-i modelezi un comportament decent.”
Sfatul lui Hinton este o curatoriere riguroasă, modelând bunătatea în mod activ.
