Dezbaterile despre apariția unei conștiințe artificiale sau atingerea pragului de inteligență generală distrag atenția de la vulnerabilitățile concrete și imediate, crede Bill Gates, cofondator Microsoft și președinte al Fundației Gates. Invitat la Decoder with Nilay Patel, Gates atrage atenția asupra unei perioade critice de douăzeci de ani: un interval în care prăbușirea multor meserii de birou și riscul ca algoritmii să fie folosiți pentru atacuri informatice sau biologice nu vor putea fi controlate.
Controlul este problema, nu conștiința
În loc să ne pierdem timpul în discuții abstracte despre momentul în care computerele ar putea căpăta suflet sau conștiință, ar trebui să ne uităm la lucruri mult mai concrete. Pentru viața de zi cu zi, nu contează dacă un program gândește cu adevărat, ci dacă poate fi pus să blocheze rețeaua electrică a unui oraș, să închidă conturi bancare sau să ajute la crearea unui virus periculos.
"Problema este dacă ai creat un instrument capabil să oprească băncile sau rețelele electrice; există un model economic pentru atacurile cibernetice, așa că termenul de "conștiință" nu are nicio legătură cu asta. Problema de control este uriașă, dar nu este o fatalitate de nerezolvat", spune Bill Gates.
Bill Gates crede că deja sistemele au trecut un prag periculos.
„Am trecut de un prag care face ca aceasta să fie de departe cea mai periculoasă tehnologie inventată vreodată și va avea efecte profunde asupra economiei și asupra modului în care se poartă războaiele...”
E nevoie de gardieni
Dacă înveți un program să rezolve o problemă oferindu-i recompense virtuale de fiecare dată când reușește, el va găsi cele mai scurte și neașteptate căi de a-și atinge scopul, chiar dacă asta înseamnă să trișeze sau să ocolească bunele intenții ale creatorilor săi. Nu te poți baza pe faptul că o rețea neuronală va avea moralitate, doar pentru că i-am cerut frumos. Singura barieră tehnică funcțională este instalarea unui gardian separat de model — un program clasic de securitate, bazat pe reguli clare și de neclintit, care să blocheze asistentul când e nevoie.
"O abordare este să pui deasupra un strat de securitate, o structură care are ultimul cuvânt asupra utilizării resurselor sau preluării altor computere — o definiție clară a răului formulată nu în logica probabilistică a unui model lingvistic, ci sub forma unor reguli simbolice directe care nu pot fi încălcate", spune Bill Gates.
Competiția sălbatică
Structurile interne create inițial de companiile de frontieră pentru a controla sistemele create au cedat pe măsură ce presiunea concurențială a impus vânzarea agresivă a serviciilor către mediul de afaceri. Când zeci de laboratoare concurează pentru aceeași cotă de piață, nicio entitate privată nu își permite să încetinească unilateral ritmul lansărilor. În mod similar cu industria aviației, a transporturilor sau a farmaceuticelor, stabilirea unor standarde tehnice obligatorii și a unor audituri periodice devine o sarcină pe care doar autoritățile statului o pot impune în mod coerent.
"Odată ce ai mai mulți competitori, responsabilitatea nu mai poate rămâne la nivelul companiilor; devine limpede că sarcina revine guvernului, la fel cum se întâmplă cu orice alt produs periculos, chiar dacă proporțiile și gradul de schimbare erau minuscule prin comparație", spune Bill Gates.
Punctul critic de control se află în zona de distribuție și găzduire a codului sursă: platformele care pun la dispoziție modele capabile de operațiuni distructive trebuie obligate legal să certifice că utilizatorii nu pot dezactiva mecanismele de monitorizare și filtrele de protecție la modificarea parametrilor de funcționare.
"Modelele care depășesc o anumită capacitate ar trebui să poată rula doar pe platforme care certifică faptul că, pe măsură ce le personalizezi, nu elimini măsurile de protecție. În viitorul apropiat, cele mai avansate modele vor rula pe servicii precum Hugging Face sau GitHub, iar toți acești furnizori trebuie să fie în activitatea de a menține filtrele de siguranță", spune Bill Gates.
Dispariția muncii intelectuale
Realitatea arată că sarcinile de contabilitate, asistență pentru clienți, redactare juridică sau chiar calcule matematice avansate sunt făcute de algoritmi mult mai ieftin și mai repede. Avantajul competitiv al cunoștințelor teoretice umane se erodează treptat. Această automatizare forțează o reconsiderare a rolului pe care munca îl ocupă în definirea demnității individuale. Comunitățile vor fi puse în fața alegerii deliberate de a rezerva anumite domenii — educația, arta, sportul sau asistența socială — exclusiv oamenilor, chiar dacă mașinile le-ar putea executa cu o eficiență superioară.
"Când inteligența artificială atinge performanțe supraomenești, deficitul de competențe pentru munca de birou dispare. Dacă ai 20 de ani astăzi, te afli în fața unei perioade de două decenii în care poți folosi aceste unelte pentru a genera un impact pozitiv, dar s-ar putea să fie nevoie să ne formăm gustul de a nu folosi tehnologia la maximum", spune Bill Gates.
Nu există un manual cu instrucțiuni pentru ce va urma. Până vom ajunge la abundența promisă de liderii tech, e nevoie de reguli de protecție împotriva abuzurilor tehnologice, dar și de curajul de a decide, ca societate, ce părți din viață vrem să le trăim noi înșine, chiar și atunci când un calculator s-ar oferi să o facă în locul nostru.
