O investigație realizată de BBC World Service arată eșecul moderării de conținut. Algoritmul Instagram livrează reclame plătite care acționează ca o rampă de lansare către rețele interzise de distribuție a materialelor de abuz sexual asupra copiilor.
Interacțiuni simple cu influenceri din zona de lifestyle pot declanșa o spirală algoritmică: sistemul începe să recomande conținut din ce în ce mai explicit, culminând cu livrarea pe feed-ul utilizatorului a unor reclame plătite care promovează Materiale de Abuz Sexual asupra Copiilor (CSAM).
În numele atenției
Brian Boland, Fost Vicepreședinte Meta, cu o experiență de 11 ani în roluri de conducere în cadrul companiei, oferă perspectiva unui insider asupra priorităților Instagram. Boland spune că a ales să demisioneze după ce a realizat că, în ciuda dovezilor privind efectele nocive ale fluxurilor de știri, investițiile în siguranță au rămas extrem de mici, izolate și secundare în raport cu metricile de hiper-creștere, venituri și expansiune continuă.
Algoritmul este un sistem complet indiferent moral, optimizat doar pentru click-uri și monetizare, explică Boland. Pentru a maximiza atenția utilizatorului, acesta identifică vulnerabilitățile și începe să promoveze conținut din ce în ce mai extrem și provocator.
"Doar am vizionat"
Shikha Goel, Șefa Unității de Protecție a Copilului, Poliția Cibernetică din Hyderabad, evidențiază aspectele economice și operaționale ale fenomenului.
Unitatea specializată preia fluxurile de alerte automate transmise de furnizorii de servicii electronice (ESP), analizează conținutul și generează profiluri de suspecți pe baza adreselor IP, a metadatelor de cont și a identificării platformelor sursă (Instagram, Facebook, Snapchat).
Goel demontează apărarea celor arestați care pretind că sunt nevinovați deoarece „doar au vizionat”. Ea afirmă că vizualizarea în sine este o infracțiune gravă și că fenomenul se bazează pur și simplu pe legile fundamentale ale economiei: existența unei piețe de cumpărători este motivul direct pentru care copiii continuă să fie exploatați în lumea fizică.
Cel mai mare volum de alerte de abuz provine în prezent de pe platformele Meta (Instagram și Facebook) datorită algoritmilor interni de monitorizare ai acestora. Dar Goel declară că unitatea sa nu a primit până în acel moment sesizări legate de reclame plătite care să promoveze CSAM.
Madan Lokur, Fost Judecător la Curtea Supremă a Indiei, respinge orice tentativă a companiilor tehnologice de a-și declina responsabilitatea sub pretextul neputinței tehnice. El argumentează că, din momentul în care o platformă încasează bani pentru reclame care promovează abuzul sexual asupra copiilor și promite livrarea acestora către consumatori, aceasta participă activ la o activitate de natură penală.
Magistratul explică faptul că legislația curentă din India tinde să protejeze intermediarii prin principiul Safe Harbour, neexistând o jurisprudență clară care să îi condamne direct pentru acțiunile terților. Totuși, el consideră că situația actuală depășește aceste cadre de protecție din cauza componentei comerciale.
