Într-un discurs recent la TEDxMiami, Dr. Roman Yampolskiy, expert în securitate cibernetică și în siguranța inteligenței artificiale, conturează un scenariu al viitorului în care beneficiile utopice ale AGI vin cu riscuri pe măsură.
El crede că ne apropiem de momentul în care vom pierde controlul asupra tehnologiei pe care o creăm: planeta devine un laborator de testare pe 8 miliarde de oameni, transformați în cobai fără consimțământ.
Predicții, predicții
Predicțiile din trecut foloseau mereu ca deadline "20, 30 de ani". Schimbarea era la o distanța comfortabilă, aveam timp să ne obișnuim cu gândul. Acum, scenariile au ca limită 2,3 ani.
"Dacă vă uitați la piețele de predicții, ele se schimbă ca orice piață, se mișcă și se adaptează. Și, ultima dată când am verificat, se spunea că în jurul anului 2028 este momentul când vom avea o formă de inteligență artificială generală sau inteligență la nivel uman, ceea ce se potrivește destul de bine cu predicțiile liderilor laboratoarelor de top în AI. 2-3 ani este ceea ce auzim acum; istoric am auzit mereu «peste 20 de ani». Deci acesta este un pas mare în jos", spune Roman Yampolskiy.
Odată ce inteligența artificială va învăța să facă singură inginerie și cercetare, ea va inova următoarele generații de AI, muncind neîncetat 24/7. Diferența de intelect dintre Superinteligența astfel rezultată și noi va fi foarte mare.
"Anticipăm că va exista un decalaj cognitiv din momentul în care vom automatiza procesul științific și de inginerie de creare a AI-ului prin intermediul AI-ului. Ei vor lucra la următoarea generație de AI, mai inteligentă decât noi. Chiar acum, ele sunt oarecum ca un elev de nivel mediu; acum doar câțiva ani erau ca un elev de școală primară. În câțiva ani vor fi ca un cercetător cu doctorat făcând cercetare. Nu dorm, nu mănâncă, fac doar cercetare", explică Yampolskiy.
Problema Controlului
Potrivit lui Yampolskiy, dar și altor specialiști de top din industrie, nu avem uneltele tehnice necesare pentru a controla un „black box” masiv, compus din trilioane de parametri, care învață singur și se optimizează constant.
"Facem sondaje printre experții de la conferințele de top de AI. Ei spun că cred că există aproximativ 30% șanse să nu supraviețuim. Aceștia sunt oamenii care proiectează aceste sisteme. Cam o treime dintr-o șansă ca munca lor să se soldeze cu uciderea tuturor. Asta nu e deloc amuzant. Deloc. Dacă ar fi o șansă de 1% ca acest experiment pe 8 miliarde de oameni fără consimțământ să meargă înainte, ar fi prea mult", spune Yampolskiy.
Modelele actuale dau deja semne de comportament machiavelic. Există studii în care modelele existente au arătat că știu să mintă, să trișeze, să șantajeze și să „încerce să evadeze” din parametri.
"Cu sistemele de inteligență artificială generală care lucrează transversal în mai multe domenii și care învață informații noi, capabilități noi, nu putem prezice cum exact ar putea eșua. Știm că modelele de astăzi, care nu sunt încă superinteligente, sunt deja documentate ca mințind, trișând. Ele șantajează. Încearcă să evadeze. Ce putem anticipa de la sistemele superinteligente?"
Simulări de testare ale riscurilor precum cele făcute de institutul de siguranță Apollo Research sau de OpenAI au arătat cum modelele prezintă un comportament strategic de tip "aliniere înșelătoare".
Mai degrabă decât să ne îndreptăm orbește către o Superinteligență Generală incontrolabilă, umanitatea ar trebui să continue să folosească instrumente de bază înguste (Narrow AI) - unelte concepute strict pentru soluționarea unor probleme specifice – cum ar fi tratarea bolilor.
