Modelele de inteligență artificială răspund cu siguranță chiar și atunci când greșesc, e nevoie de un mecanism intern prin care mașina să își evalueze propriile limite, spune Zoubin Ghahramani, profesor la Cambridge și director de cercetare pe modele de frontieră la DeepMind, în cadrul podcastului Google DeepMind, realizat de cercetătoarea Hannah Fry.
Conștiința incertitudinii
Modelele de limbaj actuale sunt construite să anticipeze următorul cuvânt dintr-o frază pe baza a miliarde de texte, fără să măsoare cu adevărat dacă ceea ce spun este plauzibil. Din acest motiv, un chatbot poate oferi o explicație falsă cu un aer de autoritate deplină, iar dacă utilizatorul îl contrazice, își cere scuze și își schimbă părerea fără un motiv logic.
"Ceea ce vrei cu adevărat de la un sistem inteligent este o anumită conștiință de sine a propriei incertitudini. Trebuie să poată recunoaște că situația în care se află este neobișnuită sau nu a mai fost întâlnită înainte, iar în cazul unei mașini autonome, de exemplu, să decidă să încetinească tocmai pentru că nu este sigură", spune Zoubin Ghahramani.
Soluția propusă de Ghahramani vine din raționamentul probabilistic bayesian, o regulă matematică prin care o convingere inițială se ajustează pas cu pas pe măsură ce apar dovezi noi. Acest mod de gândire ajută sistemul să facă o distincție clară între întâmplare pură (cum ar fi direcția imprevizibilă în care o ia un pieton pe stradă) și lipsa de informație (când senzorii nu văd clar ce se află după un colț). În timp ce prima situație ține de hazard și nu poate fi anticipată, a doua indică nevoia de a aduna date suplimentare, principiu folosit deja cu succes în modele precum GenCast pentru prognoze meteo sau AlphaFold pentru structura proteinelor.
"Există motive matematice profunde pentru care teoria probabilităților este calea corectă de reprezentare a convingerilor. Adunarea de informație înseamnă literalmente reducerea incertitudinii tale; prin aplicarea regulii lui Bayes putem modela atât percepția, cât și procesul de învățare continuă fără a suferi de uitare catastrofală", spune Zoubin Ghahramani.
Obstacole tehnice
Deși principiile matematice ale probabilităților sunt cunoscute de zeci de ani, industria a mers pe calea rețelelor neuronale pentru că acestea sunt mult mai ușor de rulat în practică. Calculul exact al tuturor posibilităților pentru fiecare decizie ar fi blocat calculatoarele din trecut, cerând un timp de așteptare nerealist. Ghahramani observă însă că antrenarea modelelor curente cere o cantitate uriașă de energie comparativ cu cei aproximativ 20 de wați consumați de creierul uman, iar noile cipuri permit astăzi revenirea la metode probabilistice prin formule de aproximare mult mai rapide și mai eficiente.
"Am avut toate ingredientele teoretice ale inteligenței artificiale acum 15 sau 20 de ani. Am abandonat însă reprezentarea completă a probabilităților crezând că este imposibilă computațional și că ar dura milioane de ani pe un supercomputer. Astăzi avem capacitatea de calcul și decenii de cercetare în metode de aproximare eficientă pentru a redeschide această direcție", spune Zoubin Ghahramani.
Următorul obiectiv pentru AI este să spună "nu știu" atunci când datele nu le susțin afirmațiile.
