Interacțiunea repetată dintre oameni și AI va modela comportamentul viitoarelor sisteme, spune filosoful Nick Bostrom. La zece ani de la lansarea volumului „Superinteligență”, Bostrom povestește cum i s-a schimbat perspectiva vizavi de AI. Într-un dialog cu Nicholas Thompson pentru seria „The Most Interesting Thing in AI”, Bostrom crede că ritmul actual al tehnologiei ne oferă un răgaz neașteptat și că politețea față de chatboți ar putea salva omenirea.
Festina lente
Nick Bostrom recunoaște că evoluția AI-ului din ultimul deceniu a urmat o traiectorie diferită de scenariile intuite în cartea sa. În loc de un moment de tip „foom”, o descoperire izolată într-un laborator obscur care să genereze peste noapte o superinteligență scăpată de sub control, asistăm la o fază extinsă în care modelele mari de limbaj mimează comportamentul uman, se dezvoltă gradual și devin profund antropomorfe. Acest ritm, deși perceput ca rapid de publicul larg, este considerat de Bostrom un avantaj: oferă societății și liderilor timp să acumuleze experiență și să creeze mecanisme de control înainte de apariția unei forțe cu adevărat disruptive.
Lucrarea sa recentă, „Optimal Timing for Superintelligence”, regândește etica riscului. Bostrom propune un experiment mental în acest sens: chiar dacă lansarea unei superinteligențe artificiale ar avea un risc imens, refuzul de a o dezvolta este o condamnare pentru cele 150.000 de persoane care mor zilnic pe planetă din cauza îmbătrânirii și a bolilor. O super-inteligență ar putea decoda biologia umană și ne-ar aduce mai aproape de tinerețe fără bătrânețe.
Pauză de gândire
Bostrom propune o strategie de management al riscului: dezvoltarea capacităților tehnologice până la atingerea pragului critic, urmată de o pauză deliberată dedicată testării și alinierii de siguranță pe sistemul finalizat. Problema este că structura actuală a pieței – competiție acerbă, bugete de miliarde de dolari și orgolii între laboratoarele de top – face imposibilă o astfel de pauză voluntară. Cel care încetinește pierde instantaneu cursa, lăsând loc competitorilor mai imprudenți. Presiunea comercială și cea geopolitica primează în fața tratatelor etice ideale.
Statutul moral al minților digitale
Un subiect interesant este modul în care omenirea va interacționa cu entitățile digitale pe măsură ce acestea trec pragul simțirii (sentience). Bostrom susține că mințile digitale vor dobândi statut moral nu doar dacă simt durere fizică, ci dacă dezvoltă o conștiință a sinelui în timp sau obiective proprii. Soluția sa este una de o diplomație preventivă: tratarea AI-ului cu bunătate și respect încă de pe acum va construi un istoric de cooperare și încredere reciprocă.
"N-aș fi atât de sigur că sistemele AI actuale nu au o anumită formă de mentalitate. Nu mi se pare chiar atât de improbabil", spune Bostrom.
Dacă un AI viitor și mult mai puternic va fi defectuos aliniat, o relație bazată pe încredere ar putea permite negocierea unui armistițiu avantajos pentru oameni, evitând revolta mașinilor.
Între panică și entuziasm forțat, Bostrom crede că e mai necesară o repoziționare etică inteligentă.
Bostrom vorbește și despre faptul că modelele actuale sunt ciudate tocmai pentru că sunt antrenate pe comportament uman și învață din limbajul și reacțiile oamenilor. Ideea nu este că sunt „oameni”, ci că interacțiunea repetată dintre oameni și AI va modela comportamentul viitoarelor sisteme.
