În primul episod al seriei de dialoguri MD MEETS, organizat la Berlin cu ocazia decernării premiului Axel Springer, Mathias Döpfner, directorul grupului media Axel Springer, discută cu Sam Altman, CEO OpenAI, despre distanța tot mai mare dintre viteza cu care avansează tehnologia și ritmul lent în care societatea reușește să se adapteze. Conversația ajunge și la efectele AI în societate: cum își pot păstra democrațiile economia competitivă, jurnaliștii independenți și cetățenii capabili să ia propriile decizii într-o lume condusă de sisteme inteligente?
Ce poate tehnologia și ce permite birocrația
Sam Altman explică diferența dintre ceea ce folosește publicul larg și ceea ce pot face, în realitate, cele mai noi sisteme, ceea ce el numește excedentul de capacitate. Modelele avansate de laborator reușesc deja să îi întreacă pe cei mai buni experți umani în competiții de logică, matematică și programare. Pe continentul european, această evoluție rapidă se lovește însă de o barieră politică. Deși Germania a devenit cea mai mare piață europeană pentru OpenAI și a cincea din lume — susținută recent și de un parteneriat cu SAP și Microsoft pentru un sistem cloud dedicat statului german —, tendința Uniunii Europene de a reglementa în avans orice detaliu întârzie lansarea noilor tehnologii. Altman susține că guvernele ar trebui să separe pericolele grave, care țin de siguranța națională, de aplicațiile obișnuite din economie, unde excesul de birocrație nu face decât să blocheze inovația.
"Sfatul meu general privind inteligența artificială este să ne concentrăm pe riscurile majore, să reglementăm riscurile majore — și cred că acest lucru este important, există potențialul unor riscuri catastrofale cu aceste modele de frontieră —, dar apoi să nu ne împiedicăm de riscurile mici, să fim dispuși să acceptăm un anumit grad de risc", spune Sam Altman.
Oamenii nu vor rămâne fără ocupație
Da, pe termen scurt, inteligența artificială va desființa multe profesii, inclusiv funcții de conducere precum cea de director de companie, admite Altman. Pe termen lung însă, istoria arată că teama de șomaj — apărută la fiecare revoluție industrială — vine din lipsa de imaginație față de noile meserii care aveau să apară. Chiar dacă un computer poate gândi mai rapid și mai bine, oamenii rămân fundamental interesați de alți oameni, nu de mașini. Au o nevoie înnăscută de a fi utili comunității, de a primi atenție și de a interacționa cu semenii lor.
"Se pare că suntem profund programați să ne pese de alți oameni; nu ne preocupă atât de mult lumea mașinilor, suntem foarte concentrați pe ceilalți oameni. Nu știu exact care vor fi noile locuri de muncă, dar pariez că vor fi puternic centrate pe om", spune Sam Altman.
Argumentul central ține de psihologie: chiar și atunci când mașinile devin superioare, oamenii rămân orientați către validarea, empatia și atenția oferite de ceilalți oameni.
Trei tipuri de riscuri
Discutând despre riscul (estimat de Altman în trecut la aproximativ 2%) ca inteligența artificială să scape de sub control și să amenințe existența omenirii, șeful OpenAI împarte pericolul în trei scenarii. Primele două sunt ușor de imaginat: fie un stat ostil folosește tehnologia pentru a crea arme biologice sau atacuri cibernetice, fie un sistem avansat își fixează un obiectiv propriu și refuză să mai fie oprit de oameni.
Al treilea scenariu este însă mult mai discret și nu presupune nicio intenție rea din partea mașinii. Pe măsură ce sute de milioane de oameni cer zilnic sfaturi algoritmilor pentru decizii de afaceri sau de viață, sistemele vor ajunge să ofere soluții pe care mintea umană nu le mai poate înțelege pe deplin, dar care se dovedesc mereu câștigătoare. În acel punct, cine refuză să asculte recomandarea algoritmului pierde teren în fața competitorilor. Fără niciun conflict deschis, din simpla dorință de a rămâne eficienți pe piață, oamenii ar putea ajunge să execute docil indicațiile unui sistem pe care îl hrănesc continuu cu date noi.
"Acum primești un sfat pe care nu îl înțelegi — te întrebi de ce ar fi acesta lucrul corect de făcut —, dar se dovedește a fi corect iar și iar, pentru că sistemul poate anticipa evoluții pe care tu nu le vezi. În acel punct, fie urmezi sfatul pe care nu îl înțelegi, fie devii mai puțin competitiv decât egalii tăi. Modelul nu are nicio intenție rea, încearcă doar să te ajute, dar, dacă vrei să reușești în lume, trebuie să îi urmezi indicațiile — și la fel fac toți ceilalți. Ajungem cu toții să facem ceea ce ne spune un sistem de inteligență artificială, hrănindu-l totodată cu noi date de antrenare, într-o buclă continuă de îmbunătățire. Cine deține, în realitate, controlul asupra acestui proces?” spune Sam Altman
Inspirație și furt intelectual
Mathias Döpfner atrage atenția că regulile clasice ale dreptului de autor nu mai funcționează în epoca inteligenței artificiale. Dacă o redacție investește timp și bani într-o investigație, iar secunde mai târziu informația este preluată și rezumată gratuit de un algoritm, publicația își pierde sursa de venit. Paradoxul subliniat de Döpfner este că, dacă presa de investigație dispare din lipsă de bani, însăși inteligența artificială va rămâne fără informații verificate.
"Dacă pentru cineva care muncește să descopere lucruri care nu ar fi trebuit să fie descoperite nu mai există niciun stimulent — pentru că nu mai există un model de afaceri, nu se mai întorc venituri, iar informația, odată publicată, este imediat preluată de alții —, atunci avem o problemă fundamentală. De ce sunt totuși moderat optimist? Pentru că există un interes reciproc: dacă sistemul seacă, dacă nu mai avem diversitate de surse și jurnaliști de investigație pe teren, atunci nu va mai exista nimic de colectat, nu vor mai fi suficiente date, iar răspunsurile algoritmilor vor deveni tot mai slabe", spune Mathias Döpfner.
Altman este de acord că jurnaliștii trebuie plătiți — eventual printr-un sistem de microplăți automate pentru fiecare informație citată direct —, dar face o diferență între copiere și învățare. Atunci când reproduci direct munca altcuiva, trebuie să plătești; în schimb, atunci când un sistem doar învață regulile generale dintr-un text (așa cum un elev învață fizică dintr-un manual sau un muzician se inspiră dintr-un stil muzical), nu poți cere taxe.
Societățile democratice sunt prinse între două nevoi contradictorii: pe de o parte, trebuie să dezvolte și să adopte rapid inteligența artificială pentru a nu lăsa un avantaj strategic periculos în mâinile dictaturilor; pe de altă parte, exact această grabă e periculoasă și îi determină pe oameni să urmeze deciziile unor algoritmi pe care nu îi mai pot verifica.
