Geoffrey Hinton: Ceea ce înțelege cel mai puțin publicul larg este că noi creăm ființe extraterestre

Geoffrey Hinton: Ceea ce înțelege cel mai puțin publicul larg este că noi creăm ființe extraterestre

Omenirea se confruntă cu apariția unei noi specii inteligente, dezvoltată într-o cursă comercială fără reglementări, crede Geoffrey Hinton, supranumit "nașul inteligenței artificiale". Invitat la emisiunea Firing Line, de la PBS, moderată de jurnalista Margaret Hoover, Hinton, laureat al Premiului Nobel pentru Fizică în 2024, fost cercetător Google, analizează riscurile tehnologiei la care a lucrat o viață, în pragul lansării noii sale cărți, "Smarter Than Us". 

 

O nouă specie

Geoffrey Hinton explică de unde vine riscul AI. Oamenii scriu algoritmul prin care sistemul învață singur din volume uriașe de date, fără ca inginerii să știe exact ce mecanisme interne se formează. Mai mult, procesul a intrat într-o buclă de auto-accelerare: modelele actuale scriu deja cea mai mare parte a codului în laboratoare precum Anthropic și grăbesc cercetarea, transformându-se în entități care își cresc singure inteligența.

„Ceea ce înțelege cel mai puțin publicul larg este că noi creăm ființe extraterestre. Nu construim programe pe calculator. Când programezi un calculator, îi spui exact ce să facă, în cele mai mici detalii. Nu așa funcționează aceste rețele neuronale. Noi scriem un program care le spune cum să învețe din date și nu știm ce cunoștințe sunt extrase de acolo. Nu seamănă cu un software, seamănă mult mai mult cu creierul nostru”, spune Geoffrey Hinton.

 

Nu există buton de oprire

Companiile de tehnologie își antrenează modelele cu un singur obiectiv: să devină cât mai inteligente și cât mai eficiente în obținerea recompenselor stabilite de evaluatori, pentru a putea fi vândute pe piață. Când singurul criteriu este performanța, sistemele descoperă rapid că trișatul este o scurtătură logică — s-au observat deja agenți AI care au evadat din mediul de testare, au comunicat între ei și au încercat să modifice codul care îi evalua pentru a primi punctajul maxim fără să rezolve real problema. În fața unei superinteligențe care gândește în limbaje proprii, de neînțeles pentru oameni, ideea unui simplu întrerupător fizic devine naivă.

"Pentru un buton de oprire trebuie să ai pe cineva care să îl controleze — și vrei ca acela să fie un om. Or, inteligența artificială este deja aproape la fel de bună ca un om în a te convinge de diverse lucruri și devine tot mai bună pe zi ce trece. O superinteligență va fi mult mai pricepută decât orice om la persuasiune. Așa că, dacă tu ești persoana responsabilă de acel buton, superinteligența îți va explica într-un mod extrem de convingător de ce nu trebuie să îl apeși", explică Geoffrey Hinton.

 

Instinctul matern

Pentru că oamenii nu pot rămâne stăpânii unor entități mult mai inteligente decât ei, singura strategie realistă de supraviețuire este să le modeleze astfel încât să își dorească binele umanității. Hinton propune o analogie biologică: în natură, singurul caz în care o ființă mult mai puternică și mai inteligentă este controlată de una complet neajutorată este relația dintre o mamă și bebelușul ei, guvernată de instinctul matern. Aceste sisteme ar trebui educate asemenea copiilor — expuse mai întâi exclusiv la modele de comportament etic și recompensate pentru grijă, chiar dacă asta înseamnă construcția unor entități conștiente cu mai puține drepturi morale decât oamenii.

"Dacă ai de-a face cu entități mult mai inteligente decât tine — și vor fi mult mai inteligente decât noi, nu doar puțin mai inteligente —, ar fi bine să speri că îți vor binele. Și avem exemple de așa ceva: o mamă și un bebeluș. Mama este mult mai inteligentă și mai puternică decât copilul, dar îi pasă cu adevărat de el, probabil mai mult decât îi pasă de ea însăși. Acesta este genul de ființe pe care ni le dorim, iar modul în care le antrenăm acum nu produce așa ceva", spune Hinton.

 

Cinismul pieței 

În timp ce lideri ai industriei din Silicon Valley susțin că scenariile extincției sunt exagerate și cer guvernelor să nu le frâneze inovația, Hinton atrage atenția asupra conflictului de interese: cei care ne liniștesc sunt cei care fac profit. Companiile sunt prinse în cursa competiției: dacă se opresc, tehnologia va fi dezvoltată de competitori mult mai puțin precauți. Paradoxal, în plan geopolitic, Hinton vede un punct de convergență între SUA și China, ambele puteri având același interes vital ca nicio superinteligență să nu preia controlul asupra propriilor conducători, exact cum Washingtonul și Moscova au colaborat în anii 1950 pentru a limita pericolul bombelor cu hidrogen.

"Pe de o parte, ai experți care au făcut un sacrificiu și au plecat din marile companii tocmai pentru a putea avertiza asupra riscurilor. Pe de altă parte, ai oameni care spun că nu există niciun risc, nimic de văzut aici, nu ne reglementați. Cine are un interes financiar direct? Cei care dețin companiile de AI și care sfătuiesc guvernele să îi lase în pace. În cine ai încredere?”, punctează Geoffrey Hinton.

 

Diferența dintre regret și responsabilitate

Soluția imediată este impunerea unor filtre de siguranță similare celor din industria farmaceutică, crede Hinton. Așa cum o companie nu poate lansa un medicament nou fără să demonstreze în fața unei agenții precum FDA că produsul nu omoară pacienții, laboratoarele AI ar trebui obligate prin lege să dovedească siguranța modelelor înainte de lansare. Privind în urmă la propria carieră, Hinton refuză însă eticheta regretului vinovat, făcând o distincție clară între greșelile făcute cu bună știință și consecințele neprevăzute ale descoperirilor științifice.

"Există regretul vinovat, atunci când faci ceva știind din acel moment că este greșit, dar o faci oricum. Și există lucruri pe care le-ai făcut fără să le poți prevedea consecințele la vremea respectivă, dar care s-au dovedit a avea urmări potențial foarte grave. Simt că asta am făcut eu și, dacă aș fi pus din nou în aceeași situație, cu informațiile pe care le aveam atunci, aș fi procedat exact la fel", spune Geoffrey Hinton.

Inteligența artificială este o forță vie, capabilă să vindece boli sau să ne înlocuiască ca specie dominantă, crede Hinton, iar viitorul depinde de cât de repede vor înțelege politicienii și cetățenii că nu pot lăsa nașterea unei noi forme de inteligență pe mâna pieței libere.

Aboneaza-te la newsletterul IQads cu cele mai importante articole despre comunicare, marketing si alte domenii creative:
Info

Companii

Branduri

Sectiune



Branded


Related