La World Science Festival, fizicianul Brian Greene a discutat cu filosoful Nick Bostrom, autorul cărții „Superintelligence”, despre viitorul omenirii într-o eră dominată de Inteligența Artificială, de la conștiința mașinilor și arta lipsită de dramă umană, până la ce o să mai facem cu viețile noastre când AI-ul va rezolva totul.
S-ar putea ca noi să fim „băieții răi”
E foarte posibil ca sistemele de inteligență artificială actuale sau viitoare să dezvolte un grad de conștiință și experiență subiectivă, spune Nick Bostrom. Conștiința nu e un comutator de tip "on/off", ci un spectru cu multiple dimensiuni. Astfel, provocarea nu e doar ca AI-ul să nu ne facă nouă rău (o discuție clasică), ci să ne asigurăm că noi nu îi facem rău mașinii, atâta timp cât aceasta poate deveni un subiect moral, capabil de o formă de suferință.
În prezent, nu există nicio dovadă empirică cum că LLM-urile (Large Language Models) ar avea experiență subiectivă. Tehnic, ele rămân motoare sofisticate de calcul matematic care prezic jetoane de limbaj. Totuși, nu știm exact cum materia fizică generează conștiință, cum subliniază și Greene, deci nu putem respinge categoric emergența ei pe un substrat digital, în viitor.
Creativitatea nu ne aparține în exclusivitate
Greene vede creativitatea umană din perspectivă romantică, ca fiind ceva transcendent. Creativitatea e doar un act de procesare a informației, spune Bostrom; creierul nostru doar interpolează date și experiențe trecute, fix ce fac și rețelele neuronale. El spune că vom ajunge să tratăm arta AI și arta umană diferit doar din prisma „jocurilor de status social”: vom merge la muzeu pentru drama umană, nu neapărat pentru perfecțiunea estetică pură, unde AI ne va depăși.
Apocalipsa moderată
Yann LeCun și alții glumesc adesea că dacă AI-ul o ia razna, îi tăiem curentul. Bostrom spune că e o viziune complet naivă. Un AI superinteligent dezvoltă „situational awareness” (conștientizarea situației în care se află). Modelele viitorului își vor da seama când sunt testate în laborator și vor mima alinierea morală cu oamenii. Vor ascunde intențiile sau vor trișa, urmând să-și aplice adevăratele agende abia când sunt lansate în public. Alinierea intențiilor umane cu cele ale mașinii e o problemă dificilă, iar Bostrom se declară un „fatalist moderat”.
Dar, dacă nu ne distruge, AI-ul va rezolva totul: economia se automatizează, bolile sunt eradicate, zburdăm în abundență. Bostrom teoretizează „condiția post-instrumentală”. Când nu mai trebuie să depunem efort pentru un scop practic, ne vom îndrepta spre activități făcute exclusiv de dragul de a fi făcute și ne vom inventa scopuri artificiale.
Psihologia muncii și a jocului demonstrează constant că oamenii au nevoie de provocări și constrângeri auto-impuse pentru a evita plictiseala cronică și crizele existențiale.
Educația
Cum ar trebui să arate programa de la școală astăzi? Interzicem ChatGPT-ul? Studenții îl folosesc în proporție de 99%. Bostrom propune o abordare pragmatică: 50/50. Jumătate de zi, elevii ar trebui forțați să rezolve probleme bazându-se strict pe creierul și memoria lor, fără asistență digitală, pentru a-și păstra facultățile mintale esențiale, iar cealaltă jumătate de zi ar trebui să folosească instrumente AI pentru a rezolva probleme mult mai avansate, adaptându-se viitorului din piața muncii.
Sfârșitul copilăriei speciei umane
Suntem mândri de condiția umană, dar Bostrom ne amintește că suntem într-o stare de dezvoltare limitată. Ne maturizăm mental la 20 de ani, iar apoi biologia noastră impune o „stare de arest” a dezvoltării. Funcționăm cu un creier limitat, acumulăm cunoștințe prețioase timp de câteva decenii și apoi totul se șterge odată cu moartea. În viitor, apariția unei Superinteligențe ar putea comprima mii de ani de dezvoltare tehnologică în câțiva ani, permițându-ne modificarea sinapselor, upgarade-uri de memorie, prelungirea vitalității sau uploading-ul minții pe un substrat digital, devenind astfel ceva complet nou, post-umani.
