Într-o conversație cu Joanna Stern, la sediul Meta, Mark Zuckerberg vorbește despre lansarea noilor ochelari inteligenți și a agentului autonom Muse, într-un moment în care îngrijorările legate de supraveghere, intimitate și impactul psihosocial al sistemelor autonome devin tot mai acute.
Retorica riscului
Zuckerberg susține că ritmul de dezvoltare nu trebuie frânat prin tratate sau pauze impuse industriei, ci prin atenție internă la fiecare produs. Dacă un sistem dă erori, dezvăluie secrete sau acționează haotic, publicul pur și simplu nu îl va folosi. Siguranța și capacitatea sistemului de a înțelege intențiile umane reprezintă condiția pentru adoptarea la scară largă, nu un compromis voluntar.
"Când auzi oameni din industrie vorbind despre faptul că ar exista un compromis între capabilități și aliniere, eu pur și simplu nu sunt de acord cu asta; cred că alinierea este, de fapt, cea mai importantă capabilitate pe care trebuie să o stăpânim", spune Mark Zuckerberg.
Trecerea de la telefoanele inteligente la dispozitive purtabile este explicată printr-o nevoie de continuitate senzorială: un asistent digital nu poate anticipa nevoile fără a avea acces la același câmp vizual și auditiv ca purtătorul său.
"Ochelarii sunt cel mai bun mod de a realiza asta, deoarece oferă factorul de formă potrivit pentru ca un agent să vadă ce vezi tu, să audă ce auzi tu și să afișeze informații discret în câmpul tău vizual, pe măsură ce îți desfășori ziua", explică Mark Zuckerberg.
Mulți privesc cu neîncredere un dispozitiv cu cameră video produs de compania care deține Facebook. Zuckerberg explică faptul că publicul confundă modelul unei rețele sociale deschise cu noile produse personale. Pentru ochelari și asistenți, el promite un sistem similar cu WhatsApp: informațiile circulă prin computere virtuale complet izolate, securizate astfel încât nici inginerii Meta și nici autoritățile să nu poată citi datele utilizatorilor.
Muse & Gardianul
Zuckerberg explică cum funcționează Muse: primește obiective pe termen lung și lucrează proactiv pe parcursul zilei. În timpul nopții sau între sarcini, Muse își analizează acțiunile din timpul zilei, identifică ce a greșit și învață cum să se corecteze singur la următoarea interacțiune.
"L-am făcut să fie reflexiv și, uite, este un proces continuu. Nu înseamnă că Muse face totul bine astăzi, dar are o oarecare noțiune despre ce va putea să facă bine și ce nu. L-am conceput astfel încât, după ce face ceva, în timpii morți dinainte să-i ceri altceva sau noaptea, când nu-i ceri o grămadă de lucruri, pur și simplu analizează ce s-a întâmplat pe parcursul zilei și poate reflecta la asta și la cum să se descurce mai bine", spune Zuckerberg.
Funcționarea unui asistent autonom pe parcursul întregii zile solicită abilitatea de a selecta ce detalii personale pot fi dezvăluite terților în momentul executării unei sarcini specifice. Sistemul separă execuția acțiunilor de un modul de control care filtrează constant datele transmise în exterior.
Pentru a preveni acțiunile necontrolate sau scurgerile de date, Muse operează printr-un sistem dublu: Agentul Muse, care execută sarcinile și Agentul Sentinel (gardianul), care supraveghează tot.
Agenții personali au nevoie de o abilitate diferită de cea a modelelor pentru programare: capacitatea de a rezolva o sarcină partajând un minimum absolut de date personale.
"Noi numim asta discreție: practic, agentul de inteligență artificială trebuie instruit de la zero pentru a avea simțul a ceea ce este în regulă să împărtășească și ce nu este în regulă. Poate că vrei să-ți facă o rezervare la un restaurant și ai anumite restricții alimentare sau poate ești însărcinată sau orice altceva, dar nu vrei să trebuiască să spui cuiva asta. Vrei doar să poată merge să facă lucrul potrivit pentru tine, dezvăluind cât mai puține informații posibile pentru a atinge acel scop. Asta este discreția și este o abilitate umană", explică Zuckerberg.
În viitor, toți oamenii vor avea nevoie de un agent personal, crede Zuckerberg.
"Cred că, în viitor, toată lumea va avea un agent personal care, practic, va putea face lucruri pentru ei, le va înțelege obiectivele, le va înțelege contextul și va putea duce lucrurile la bun sfârșit. Îi dai un obiectiv și el pur și simplu merge și lucrează la lucruri pentru tine", spune Mark Zuckerberg.
Succesul noului ecosistem Meta depinde de disponibilitatea utilizatorilor de a ceda intimitatea cotidiană în schimbul confortului și de bariera subtilă a încrederii.
