Frații Dario și Daniela Amodei au plecat de la OpenAI și au construit o companie evaluată la aproape un trilion de dolari. În cursa AI, Anthropic se poziționează mereu de "partea binelui", declarații devenite o mantră de marketing. Dar poți să fii băiatul bun când produci tehnologie care rescrie piețele financiare și este curtată de Pentagon pentru a fi folosită în război? Un documentar Bloomberg analizează parcursul lui Dario Amodei și al companiei lui.
Despărțirea de OpenAI
Povestea Anthropic începe cu o separare. Dario Amodei a plecat din OpenAI în 2021, pentru că nu mai avea încredere în direcția companiei.
„Uite, o s-o spun foarte simplu. Pot exista multe dezacorduri valide pe tema siguranței... dar doar asta nu e suficient pentru a pleca. Când simți că nu poți avea încredere în cineva, când simți că valorile lor nu sunt cele pe care le declară, când simți că nu sunt onești, asta face foarte dificil să continui să lucrezi cu acea companie. Modul de a rezolva asta e: tu te duci și faci treaba ta, ei se duc și fac treaba lor”, povestește Dario Amodei.
A creat Anthropic pentru mediul enterprise, dezvoltând Claude și noul agent Claude Code, mizând pe un alt model de business:
„Dacă alegi un model de business care intră în conflict fundamental cu valorile tale, vei avea probleme. Noi vrem să folosim AI-ul pentru a vindeca boli pe care nu le puteam vindeca înainte... Vrem să folosim AI pentru a face energia mai ieftină și mai eficientă. Așa că acest model de business se aliniază mult mai bine cu valorile noastre”
Paradoxul economic
O temă centrală a materialului este impactul AI-ului asupra pieței muncii.
„Cred că am putea avea această combinație foarte neobișnuită de creștere foarte rapidă a PIB-ului și șomaj ridicat. Automatizezi 90% din job, excelent, oamenii sunt de 10 ori mai productivi pe restul de 10%. Dar, eventual, se apropie de 100%. Și continuarea este că trebuie să le găsești altceva de făcut. Este foarte inconfortabil și cred că acesta este motivul pentru care am ales să fondăm Anthropic. Inteligența artificială e o forță mult mai mare decât noi, dar aici putem, sperăm, să o facem să meargă un pic mai bine”, spune Amodei.
Pentagonul
Poate cea mai complicată problemă pentru o „companie etică” este intersecția cu armata. Anthropic a intrat în rețelele clasificate ale Departamentului de Apărare al SUA, dar a trasat linii clare: fără supraveghere în masă și fără arme autonome. Când presiunile au crescut, Anthropic a preferat să fie interzisă de Pentagon (conform reportajului Bloomberg).
„Practic mă întrebi: "Crezi în această țară? Vrei ca această țară să fie un actor mai puternic sau mai puțin puternic pe scena mondială?". Eu vreau. Sunt patriot. Dacă oferim o tehnologie, nu e datoria noastră să spunem "poți face operațiunea militară X, dar nu operațiunea Y". Dar regula care a fost respectată aici este că un om ia decizia finală. Imaginează-ți o lume în care un model AI ia decizia și omul nu o vede niciodată. Pentru asta am luat atitudine și împotriva acestui lucru luptam”, spune Darion Amodei.
La final, elefantul din încăpere: probabilitatea ca AI-ul să ducă la sfârșitul civilizației umane.
„Jumătate din ceea ce facem în cadrul companiei este să încercăm să reducem riscul pe cât posibil, dar nu va fi niciodată zero. Dacă cineva vine și te întreabă: "Poți garanta că avionul tău nu se va prăbuși niciodată?". Cum ai putea? Dar dacă ar exista o șansă de 25% ca un avion să se prăbușească, nu te-ai urca în el. 25% e prea mare. Noi încercăm să facem acea probabilitate mult, mult mai mică. Acesta este obiectivul.”
Între progres și responsabilitate, echilibrul rămâne fragil. Liderii Anthropic susțin că industria nu își poate ignora propriul impact și că singura cale către un viitor mai bun constă în implementarea unor reglementări prudente și a unui sistem control care să prevină scenariile catastrofale.
