AI-ul are impresia că știe tot și îți răspunde cu siguranță chiar și atunci când halucinează. Nu are dileme sau incertitudini. Cei de Google DeepMind încearcă însă o schimbare de paradigmă. Zoubin Ghahramani, cercetător pionier și co-lider Frontier AI, vicepreședinte pentru cercetare la Google DeepMind și profesor de inginerie a informațiilor la Universitatea din Cambridge, spune că inteligența vine la pachet cu un complex de inferioritate bine calculat. AI-ul trebuie să învețe să zică "sincer, nu știu".
Într-un episod recent al podcastului Google DeepMind, moderat de Hannah Fry, Ghahramani susține că e nevoie de o inovație fundamentală de arhitectură, pentru că AI-ului din prezent îi lipsește îndoiala de sine.
Luarea deciziilor în lumea reală
Nu poți avea o inteligență care operează pe certitudini absolute, pentru că realitatea e imperfectă, iar datele pe care le culegem prin simțuri (sau senzori) sunt mereu limitate.
"Una dintre cele mai importante părți ale inteligenței este luarea deciziilor. Nu poți avea un sistem inteligent care nu ia decizii, de la bacterii la animale, oameni sau roboți... Și dacă vrei să iei decizii în lumea reală, percepția noastră este limitată, așa că suntem mereu nesiguri cu privire la starea lumii reale.
Fundamental, pentru a construi un sistem inteligent, ai nevoie de un sistem care poate reprezenta incertitudinea, o poate actualiza și o poate folosi pentru a lua decizii bune sub imperiul nesiguranței", spune Zoubin Ghahramani.
Ghahramani folosește exemplul mașinilor care se conduc singure. Un AI nu se va întâlni în faza de training cu toate anomaliile posibile dintr-un oraș. Aici e vitală "conștientizarea propriei nesiguranțe".
"Ceea ce îți dorești cu adevărat de la un sistem de inteligență este o anumită conștientizare de sine (...) despre propria sa nesiguranță. Trebuie să fie capabil să știe că situația în care se află este neobișnuită sau că nu a mai văzut-o înainte. În cazul mașinii care se conduce singură, de exemplu, dacă ar avea un simț al nesiguranței sale, ar decide pur și simplu să încetinească pentru că nu a mai întâlnit acea situație; nu e convinsă dacă calul din față nu e, de fapt, o bicicletă", explică Ghahramani.
Ghahramani reduce concepte filosofice, cum ar fi învățarea sau curiozitatea, la mecanici cuantificabile, inspirate din Știința Cognitivă.
"Aceasta este definiția informației, nu? O bucată de informație pe care o folosim în informatică (un bit) înseamnă reducerea nesiguranței tale cu un factor de doi. Asta este un bit. Astfel, colectarea de informații este modul prin care ne reducem incertitudinea".
De ce nu a fost construit AI-ul nesigur până acum
Construirea modelelor bazate pe probabilitate a fost până în prezent o treabă extrem de lentă și de costisitoare din punct de vedere computațional (spre deosebire de forța brută a rețelelor neuronale). Însă istoria ne arată că hardware-ul mereu prinde din urmă teoria.
"Putem revizita unele dintre aceste idei cu puterea de calcul pe care o avem acum. Supercomputerul gigantic pe care l-am folosit în anii mei de facultate este, de fapt, mai lent decât telefonul Pixel pe care îl am în buzunar. Computația devine mai bună, mai rapidă, și avem decenii de idei despre cum să aproximăm eficient aceste metode. Avem uneltele, trebuie doar să le asamblăm", spune Ghahramani.
Discuția scoate în evidență o realitate filosofică: modelele de astăzi suferă de exces de zel. Viitorul inteligenței artificiale nu aparține unui sistem arogant, ci unui colaborator care își cunoaște limitele.
"Pentru toate problemele care contează cu adevărat, aș prefera să am un sistem AI care știe când nu știe un lucru, decât un sistem AI care este arogant și mult prea încrezător", spune Ghahramani.
Ecosistemul tech trebuie să învețe că vulnerabilitatea nu este un bug, ci o necesitate, chiar și pentru mașini. Un AI care acceptă nesiguranța este ancorat mai bine în realitate.
