AI Forensics, neprofitna organizacija koja analizira utjecaj digitalnih platformi na ljudska prava, objavila je istraživanje o načinu na koji dizajn Telegrama omogućava širenje seksualnog i digitalnog nasilja nad ženama. Istraživanje je trajalo šest tjedana i obuhvatilo 16 Telegram grupa i kanala u Italiji i Španjolskoj, gdje je identificirano više od 24.000 aktivnih korisnika uključenih u dijeljenje seksualnog sadržaja bez pristanka, uključujući materijale povezane s maloljetnim djevojčicama.
Oblici zloupotrebe u Telegram mrežama
U analiziranim kanalima i grupama pojavljuje se više oblika digitalnog nasilja. Osim dijeljenja intimnih snimki bez pristanka, prisutni su doxxing, deepfake sadržaji, cyberstalking i koordinirano uznemiravanje. Pronađeni su i materijali sa seksualnim zlostavljanjem djece te sadržaji koji prikazuju silovanje i incest, što pokazuje širinu i ozbiljnost sadržaja koji cirkulira u tim prostorima.
Nalazi pokazuju da se ne radi o pojedinačnim slučajevima nedoličnog ponašanja, nego o strukturiranom, monetiziranom i djelomično automatiziranom sustavu zlostavljanja koji djeluje u velikom opsegu. Telegram, kroz način moderiranja, arhitekturu privatnosti i selektivnu provedbu vlastitih pravila, stvara uvjete za nastavak zloupotrebe i širenje digitalnog nasilja nad ženama i djevojčicama.
Postojeći pravni okvir
Europski regulatorni okvir već postoji, uključujući Akt o digitalnim uslugama, ali problem se nalazi u njegovoj provedbi. Telegram grupe i kanali s tisućama članova, od kojih neki naplaćuju pristup i koriste AI alate za generiranje seksualiziranog sadržaja, funkcioniraju kao oblik digitalnog javnog prostora na koji se postojeći zakoni mogu primijeniti, ali se to ne događa dosljedno.
Zahtjevi prema institucijama i stav Politiscopea
Politiscope zajedno s drugim organizacijama u otvorenom pismu traži zabranu nudifying botova na Telegramu te pravnu klasifikaciju platforme kao VLOP, što bi aktiviralo dodatne obveze poput procjena sistemskih rizika, neovisnih revizija, mehanizama prijave i jače transparentnosti. Od država članica traži se i prekogranična suradnja koordinatora za digitalne usluge te brza implementacija Direktive (EU) 2024/1385 o suzbijanju nasilja nad ženama i obiteljskog nasilja u nacionalna zakonodavstva.
“Umjesto stalnih pokušaja uvođenja chat controla, odnosno obveznog automatskog skeniranja privatne komunikacije, u borbi protiv ilegalnog digitalnog sadržaja potrebno je usredotočiti se na provedbu postojećih propisa. Telegram grupe i kanali koji imaju tisuće članova, od kojih neki naplaćuju članstvo i koriste AI alate za nudifikaciju, poseban su oblik digitalnog javnog prostora na koji se trebaju primjenjivati postojeći zakoni, poput Akta o digitalnim uslugama.” – Duje Prkut, Politiscope
“Masovni automatizirani i neproporcionalni nadzor sadržaja poruka nije prihvatljiv način borbe protiv ilegalnog digitalnog sadržaja. Fokusirane i međunarodno koordinirane istrage mogu razotkriti i suzbiti masovno dijeljenje ilegalnog sadržaja ako nadležna tijela koriste svoje ovlasti i djeluju prema postojećim nalazima i preporukama.”
