Frații John și Patrick Collison, fondatorii Stripe, au moderat o discuție cu Nat Friedman (fost CEO GitHub) și Daniel Gross (fost director AI la Apple și executiv în strategia de computing a Meta), în cadrul Stripe Sessions. Cei doi au vorbit despre Singularitate, agenți AI, bani, deflație și frumusețe.
Progres și deflație
Nat Friedman afirmă că îmbunătățirea actuală a modelelor AI pare lentă doar pentru că încă depinde de factorul uman (cercetătorii trebuie să testeze, să doarmă, să ia decizii). Principalul obiectiv al laboratoarelor AI în prezent este să elimine oamenii din bucla de training continuu. Odată ce AI-ul se va putea auto-îmbunătăți, curba de progres va exploda exponențial.
Deși conceptul de Singularitate este o chestiune de dezbatere filozofică, tendința laboratoarelor precum OpenAI și Meta de a folosi agenți AI și date sintetice pentru a antrena viitoarele modele este o realitate confirmată a industriei.
"Acesta este momentul cel mai lent. Aceasta este partea lentă a singularității chiar acum, pentru că îmbunătățirea modelelor încă depinde de mult efort uman. Proiectul principal în fiecare laborator de AI acum este eliminarea oamenilor din bucla de lucru continuuși trecerea la auto-îmbunătățire”, spune Friedman.
Încercând să anticipeze dacă AI-ul va aduce inflație sau deflație, Daniel Gross compară intrarea super-inteligenței pe piață cu momentul în care China a aderat la Organizația Mondială a Comerțului (WTO). La fel cum China a devenit o „super-inteligență” a producției industriale, scăzând masiv costul bunurilor, AI-ul va prăbuși prețul și va democratiza accesul la producția de software și servicii digitale.
Nu lăsați AI-ul nesupravegheat
Nat Friedman explică fascinația sa pentru asistenții AI personali necenzurați. El a conectat un model Claude la propriul ecosistem: i-a dat acces la analizele medicale, la sistemul de navigație al mașinii sale (Tesla) și la camerele din casă. La un moment dat, AI-ul a observat că Nat e deshidratat și nu l-a lăsat în pace până când acesta nu i-a trimis o poză din bucătărie în care bea o sticlă de apă. Mai mult, în timp ce conducea spre casă, AI-ul a decis că Nat are nevoie de suplimente de magneziu și i-a deviat automat navigația Tesla-ului către un magazin Whole Foods.
Modelele de limbaj mari (LLMs) conectate prin API-uri (funcționalitatea de tool use) pot executa astfel de comenzi dacă li se dau permisiuni extinse. Totuși, Friedman subliniază că aceste prototipuri sunt periculoase și ușor de piratat și că rulează versiuni fără restricții de siguranță, ceva ce consumatorii de rând nu pot face la fel de simplu încă.
Frumusețe, bani
Daniel Gross deschide o discuție mai filozofică, susținând că industria AI investește peste 2% din PIB-ul global în Data Centere. El propune ca aceste structuri monumentale să fie construite ținând cont și de frumusețea arhitecturală, nu doar de utilitarism brut și randamentul investiției (ROIC), mai ales că vor modela peisajele fizice în anii următori.
La final, Friedman și Gross spun că următorul mare segment de clienți nu vor fi oamenii, ci agenții AI. Aceștia vor naviga pe internet pentru a face cumpărături, iar ecosistemul de identitate, dispute și plăți trebuie reinventat pentru ei. Acești agenți probabil nu vor folosi carduri de credit clasice sau conturi bancare tradiționale, ci vor prefera criptomonedele stabile, ocolind sistemul financiar vechi.
