AI-ul are nevoie de o evaluare organică, bazată pe acțiunile și preferințele oamenilor, crede Anastasios N. Angelopoulos, cofondator și CEO Arena, o platformă de evaluare a modelelor de inteligență artificială bazată pe feedback uman. Fost cercetător la Google DeepMind, Angelopoulos are diplomă de inginerie electrică la Stanford și un doctorat la UC Berkeley în inginerie electrică și științe a calculatoarelor.
Standarde noi
O provocare importantă a adopției AI în prezent este definirea valorii și măsurarea clară a performanței. Angelopoulos subliniază că testele statice standard au devenit depășite și nu mai reflectă calitatea unui model. Ecosistemul are nevoie de o evaluare organică, bazată pe acțiunile și preferințele utilizatorilor umani.
"Arena este platforma pentru măsurarea performanței AI în lumea reală. Nu folosim benchmark-uri statice sau seturi de date aleatorii pe care cineva le-a colectat, ci măsurăm ce se întâmplă când pui AI-ul în mâinile oamenilor reali. Măsurăm realitatea obiectivă: dacă e factual, dacă halucinează, dacă oamenii preferă modelul și dacă își fac treaba cu el în realitate".
O idee populară în SUA este că laboratoarele din China doar copiază sau distilează modelele americane. Angelopoulos contrazice această ipoteză comodă și dă exemplul modelului asiatic Kimi, care a surprins industria reușind să depășească soluții închise (closed-source) occidentale în sarcini specifice, precum codarea front-end.
"Asta înseamnă că distilarea e doar o parte din poveste și că acele laboratoare fac ceva în plus care le ridică performanța peste ce fac laboratoarele americane în prezent", spune Angelopoulos.
Suveranitatea AI
Adoptarea modelelor LLM de către marii jucători enterprise vine cu frica de a-ți oferi datele confidențiale unor terți (cum ar fi Anthropic sau OpenAI). Soluția viitorului, susține Anastasios, va fi suveranitatea AI – rularea unor modele open-source finisate exclusiv pe datele specifice ale acelei corporații.
"Companiile vor dori să dețină propria inteligență, ceea ce poartă numele pompos de suveranitate AI. Înseamnă că îți deții întregul lanț de aprovizionare AI. Să iei un model open-source, să-l fine-tunezi pe datele companiei tale și să deții întreg stack-ul cap-coadă. Oamenilor le va păsa de suveranitate, de costuri, de capacitatea de auto-îmbunătățire și nu vor dori neapărat să dea datele unui serviciu terț care într-o zi le-ar putea deveni concurent", explică Angelopoulos.
Modelele AI și tehnologiile aplică pentru roluri critice în companiile americane de top, povestește fondatorul Arena.
"Apare câte un individ pe cealaltă parte a interviului... trece de toate interviurile noastre tehnice, pare uimitor și apoi, când se ajunge la sfârșit și încerci să-l angajezi, persoana pur și simplu nu există. Este vaporware. Nu glumesc. Oamenii încearcă să pătrundă în toate afacerile americane. Inginerii noștri de top îi intervievează și cred că sunt reali. Luăm în calcul să facem tot onboarding-ul în persoană din această cauză".
FBI a emis multiple avertismente în ultimul an cu privire la muncitorii IT susținuți de actori statali care se folosesc masiv de inteligență artificială, deepfakes și identități false pentru a trece interviuri video și teste tehnice în scop de spionaj sau fraudă financiară.
Întrebat despre soluțiile de siguranță pentru prevenirea pericolelor AI, Angelopoulos sugerează un regim corporativ responsabilizat prin amenzi aspre, dar se opune birocrației guvernamentale.
"Ideea că ar trebui să avem un organism guvernamental central care să ne spună când este timpul să lansăm un produs nou sau nu mi se pare o nebunie. Trebuie să creăm stimulente puternice pentru siguranță și să reglementăm pe baza rezultatelor, dând amenzi uriașe dacă datele corporative se scurg... în loc să avem un proces guvernamental însărcinat cu prevenția, pentru că oricum nu vor fi capabili tehnic să o facă".
Este un moment important în maturizarea ecosistemul inteligenței artificiale, crede Angelopoulos, dincolo de competiția pentru supremație dintre SUA și China sau de previziuni exagerate. Companiile sunt forțate să-și valorifice propriile date, să își asigure suveranitatea tehnologică și să integreze AI-ul în mod sustenabil și sigur.
