Soluția nu este niciodată panica, chiar dacă lumea devine de nerecunoscut, spune Dario Amodei, CEO Anthropic. Într-un interviu acordat CBS, el admite că industria "a mințit prea mult timp publicul" în legătură cu pericolele inteligenței artificiale și că e nevoie de evaluatori externi care să funcționeze ca "inspectori alimentari".
Dualitatea AI
Subiectul binelui și răului este infinit dezbătut, de la începutul omenirii. Acum, el este abordat în contextul AI. Amodei îl ancorează direct în utilitatea științifică, specifică biologiei.
"Cred cu adevărat că această tehnologie ar putea vindeca boli care au chinuit omenirea timp de milenii. Dar când ceva este foarte puternic, desigur că poate fi folosit în mod pozitiv, dar și în scopuri distructive. Sunt îngrijorat de utilizarea greșită a modelelor AI. Doar acum două zile am publicat un raport despre utilizarea modelelor pentru construirea de arme biologice.
Aproape în fiecare zi se fac glume pe seama mea pe rețelele sociale pentru că măsurile de protecție ale modelului nostru în domeniul biologiei sunt prea stricte... Dar prefer să râdă de mine, decât să mă trezesc într-o zi și să descopăr că cineva ne-a folosit modelul Claude pentru a ucide o mulțime de oameni", explică Amodei.
Amodei e conștient de pericolele noilor tehnologii și riscurile AI nu pot fi ignorate.
"În ceea ce privește pericolele tehnologiei, nu o să vă mint: există pericole reale. Și cred că, prea mult timp, industria a mințit oamenii în legătură cu faptul că această tehnologie implică riscuri — ideea era să o prezinte cât mai pozitiv posibil. Noi nu am făcut niciodată asta, dar o mare parte din industrie a făcut-o. Așa că totul începe prin a spune adevărul, iar adevărul este că există riscuri, riscurile sunt reale, dar aveți și voi un cuvânt de spus în modul în care sunt gestionate", spune Dario Amodei.
Inspectori alimentari pentru AI
Totuși, Amodei nu vrea o oprire bruscă care să blocheze definitiv evoluția tehnologiei. Propune în schimb un moment de respirație controlat, până când sistemele de siguranță pot ține pasul cu viteză capacităților AI.
"Tehnologia se află pe o curbă exponențială. E ca și cum ai avea 1, apoi 2, 4, 8, 16, 32... Suntem, practic, pe porțiunea în care curba începe să devină tot mai abruptă. Nu înseamnă că trebuie să intrăm în panică azi. Nu înseamnă că trebuie să oprim totul. Este un semnal de alarmă că trebuie să încetinim, să dezvoltăm această tehnologie cu grijă", spune Amodei.
Rezolvarea stă într-un audit permanent și independent din partea statului sau organizațiilor civice, crede Dario Amodei:
"Am propus un plan în trei pași. Primul pas este să punem la punct evaluatori externi direct încorporați în proces, proveniți de la o organizație non-profit terță sau, poate, într-o zi, de la o organizație guvernamentală, care să poată observa de aproape procesul prin care antrenăm și rulăm modelele."
Războiul Rece Tehnologic
În contextul politic tensionat din SUA, în care voci precum cea a lui Bernie Sanders susțin inițiative legislative de tipul Ban Artificial Super Intelligence Act, Amodei reamintește de avantajul strategic. Statele Unite nu pot face un pas în spate atâta timp cât state cu regimuri autoritare nu o fac.
"Gândiți-vă la perioada când era vorba de SUA și Uniunea Sovietică. Aveam fiecare câte 10.000 de rachete nucleare îndreptate unele spre celelalte. Chiar și cu toate diferențele noastre, am recunoscut că erau prea multe, că trebuia să ne angajăm în negocieri care ar putea reduce amploarea potențialei distrugeri. Cred că negocierile de dezarmare și limitare a armamentului sunt o lentilă potrivită prin care să privim asta la nivel geopolitic."
Un pas concret în această direcție ar fi ca guvernele SUA și ale Chinei să negocieze direct un pact clar: includerea modelelor de inteligență artificială sub incidența tratatelor globale de interzicere a armelor biologice.
