Suntem bombardați insistent cu promisiunile Inteligenței Artificiale. Norul digital ascunde, însă, semne negre de furtună, arată un documentar DW. Tehnologia viitorului se bazează pe milioane de lucrători invizibili și forme agresive de colonialism digital.
Munca invizibilă
Documentarul DW, intitulat „The dark side of AI - Exploitation of humans and nature”, oferă contextul critic al modului în care sistemele de AI sunt produse. Narațiunea publică dominantă vinde ideea unor sisteme complet autonome, capabile să învețe și să gândească singure. Dar succesul lor depinde de un mecanism de externalizare a muncii către populații vulnerabile din punct de vedere economic și o industrie dedicată etichetării, sortării și curățării datelor brute de pe internet.
Dr. Milagros Miceli, sociolog, informatician și lider al grupului de cercetare „Date, Sisteme Algoritmice și Etică” din cadrul Institutului Weizenbaum, demitizează autonomia AI.
„Este un concept înșelător. Atunci când vorbim despre AI, în general vorbim despre așa-numitele sisteme inteligente... sisteme care ar trebui să execute sarcini fără ajutorul oamenilor sau fără intervenția lor. Dar acest lucru nu este adevărat, deoarece când vorbim despre AI și despre așa-numitele sisteme autonome inteligente, vorbim despre oameni care lucrează în spatele scenelor...
AI înseamnă multă muncă, multe resurse, multă forță de muncă adunată pentru a produce un rezultat. Faptul că majoritatea oamenilor nu știu despre asta este probabil intenționat... este vorba despre crearea unei narative, a unui mit în jurul acestor sisteme și cred că este foarte intenționat ca acele părți, acele bucăți de muncă și de resurse să rămână ascunse de ochii publicului.”
Cine curăță internetul
Pentru ca un algoritm să ghideze corect o mașină autonomă sau să evite un limbaj periculos, el trebuie antrenat cu miliarde de exemple etichetate manual. Documentarul arată diverse colțuri ale acestei „uzine globale”: de la deținute din închisori din Finlanda care etichetează date despre construcții pentru sume derizorii, la studenți din India și refugiați ucraineni din Bulgaria, care marchează produse și evaluează răspunsuri de chatbot.
Companii de top precum OpenAI sau Meta au externalizat filtrarea celor mai urâte zone ale internetului către companii locale de tip BPO. Angajații lor sunt forțați să vizioneze și să eticheteze zilnic imagini și texte explicite despre crime, violuri, mutilări și abuzuri inimaginabile asupra minorilor, cu unicul scop ca filtrele de siguranță ale utilizatorilor occidentali să rămână imaculate. Clauzele de confidențialitate îi amenință cu închisoarea dacă vorbesc despre proiecte.
Fine Makira, o fostă moderatoare de conținut din Kenya, povestește cum e această muncă.
„Pot spune că am lucrat cu AI pentru mai mult de 3 ani. La început, nu mi s-a părut ceva greu, dar pe măsură ce timpul a trecut, am realizat că am început să am coșmaruri, mai ales când vizionam multe cazuri de crimă sau de viol, în special dacă erau implicați minori, copii. Când priveam o mulțime de cadavre în timpul zilei, aveam dificultăți în a dormi.
Am dezvoltat anxietate, nu mai puteam ieși, nu mai puteam fi acolo unde erau mulți oameni, într-o mulțime... Într-un fel, m-a condus spre depresie și de aceea am decis să renunț. Astăzi, încă mai există urme ale PTSD-ului sau ale lucrurilor prin care trec, de aceea merg încă la terapie pentru anxietatea mea.”
Un alt fost moderator kenyan vorbește despre volumul de muncă toxică:
„Munca toxică este adusă în Kenya... Marile companii de AI din aceste țări occidentale vă vor spune că au sisteme superioare pentru a vă face să simțiți că AI este bună, că AI nu este toxică. Dar eu, aici în Kenya, vă voi spune că o mare parte din această muncă este adusă într-o formă murdară. Sarcinile noastre sunt să ne asigurăm că curățăm această muncă pentru voi, ca voi să vă bucurați de AI în aceste țări occidentale. Gunoiul adus din SUA în Kenya este în primul rând pentru a fi curățat și sortat în Kenya, iar apoi folosit înapoi în SUA când este deja bine etichetat și gata să fie utilizat în SUA, da.”
Factura ecologică
Pe lângă exploatarea umană directă, documentarul aduce în prim-plan o altă realitate invizibilă: infrastructura reală. Algoritmii nu plutesc în eter. Ei rulează în centre de date gigantice care consumă cantități mari de energie electrică, apă pentru răcire și minerale esențiale extrase din adâncurile pământului (cupru, cobalt, litiu, pământuri rare).
"Cred că majoritatea oamenilor nu fac legătura între extractivismul mineral și AI deoarece infrastructura AI a fost invizibilizată în ultimul deceniu. De exemplu, când vorbeam despre 'cloud', când vedeam acea pictogramă de nor pe laptopurile noastre, nu ne gândeam niciodată că acesta este de fapt un depozit uriaș cu o mulțime de servere în interior, că este o clădire uriașă cu o mulțime de computere”, spune Ana Valdivia, lector în guvernanță și politici de AI la Oxford Internet Institute.
Filozofia care justifică sacrificiul uman
Documentarul DW analizează și comportamentul elitelor din Silicon Valley. De ce acceptă acești lideri tech distrugerea resurselor planetei? Răspunsul se află într-un mănunchi de ideologii tehno-utopice reunite sub acronimul TESCRIL (Transhumanism, Extropianism, Singularitarianism, Cosmism, Rationalism, Effective Altruism, Long-termism).
Mișcarea consideră că prioritatea absolută a umanității este crearea unei Inteligențe Artificiale Generale (AGI) capabile să colonizeze universul și să asigure nemurirea unei specii post-umane superioare peste câteva milenii. În această ecuație utilitaristă, suferința curentă a unor comunități întregi este privită ca „o moleculă într-o picătură dintr-un ocean”: un sacrificiu nesemnificativ pentru un viitor glorios.
Dr. Émil P. Torres, filozof și istoric, avertizează asupra pericolului acestei mentalități.
„Acronimul TESCRIL reprezintă un cluster de ideologii care au devenit deosebit de influente în Silicon Valley în ultimii 10 ani sau cam așa ceva. T-ul vine de la transumanism, adică această idee că ar trebui să folosim tehnologii avansate pentru a re-ingineriza radical organismul uman... iar L-ul din TESCRIL se referă la long-termism, o ideologie construită în jurul unei viziuni tehno-futuriste specifice asupra viitorului, în care ne răspândim dincolo de Pământ, colonizăm cât mai mult posibil din universul accesibil și creăm cea mai mare civilizație multigalaetică sprawling pe care o putem construi. Această ideologie a devenit masiv influentă în Silicon Valley. Elon Musk, de exemplu, este un mare fan al ei”, spune Torres.
În completare, James Muldoon, lector la Universitatea din Essex, adaugă o concluzie economică: marile companii dispun de resurse financiare pentru a-și plăti și proteja angajații în mod decent, dar aleg în mod conștient să nu o facă.
