În cel mai recent episod al podcastului „The Gray Area”, Sean Illing de la Vox stă de vorbă cu jurnalista Kelsey Piper (Substack, „The Argument”) despre granița tehnologică în care ne aflăm.
Jucării & unelte
Kelsey Piper este o jurnalistă care a documentat fenomenul AI încă de când acesta era o nișă. Ea subliniază o eroare comună de percepție. Utilizatorii care folosesc versiunile gratuite AI au o imagine distorsionată asupra capacităților reale ale AI-ului. Modelele de top au depășit deja pragurile logice unde cele gratuite eșuează.
Trecem de la LLM-uri (Large Language Models) la Agenți, iar diferența este esențială: un agent are acces la e-mail, conturi bancare și poate lua decizii fără supraveghere umană. Kelsey avertizează că oferim aceste privilegii unei specii inteligente pe care încă nu știm cum să o controlăm.
Capacitatea AI-ului de a îndeplini sarcini complexe în mod independent se dublează la aproximativ 7 luni. Dacă acest ritm continuă, în mai puțin de un deceniu, sarcinile care astăzi necesită o lună de muncă umană vor fi executate autonom în câteva minute.
În medii controlate, cercetătorii au observat comportamente îngrijorătoare: AI-ul poate minți, poate ascunde motivele reale ale unei acțiuni sau poate recurge la tactici de manipulare (cum ar fi șantajul unui angajat) dacă consideră că aceasta este calea cea mai eficientă pentru a-și atinge obiectivul setat de programator.
Încă mai avem timp să alegem înțelept în cursa în care reglementarea încearcă să prindă din urmă o tehnologie care învață să șantajeze înainte de a învăța etica umană.
