Umnožavanje materijala za seksualnu zloupotrebu dece (CSAM) predstavlja jedan od najopasnijih i najštetnijih oblika online pretnji.

Umnožavanje materijala za seksualnu zloupotrebu dece (CSAM) predstavlja jedan od najopasnijih i najštetnijih oblika online pretnji. Predatori koji se bave distribucijom ovog sadržaja stalno unapređuju svoje taktike kako bi izbegli detekciju i sprovođenje zakona, a sve češće koriste legalne fotografije i medije kao sredstva za skladištenje i širenje štetnog materijala. Ovo predstavlja ozbiljan izazov za društvene mreže i platforme, jer ovi prestupnici koriste svakodnevne slike i video snimke, kao što su dečje slike sa sportskih događaja, koje su postavljene online od strane roditelja ili drugih korisnika. Takav sadržaj, poznat kao „sadržaj od interesa za predatore“ (COITP), često je neprepoznat i deluje bezopasno, ali može postati prvi korak ka ozbiljnijim oblicima zloupotrebe.

Šta je, zapravo, COITP (Content Of Interest To Predators)?

COITP, odnosno, „sadržaj od interesa za predatore“, odnosi se na zbirke sadržaja dece koji je otvoreno i javno dostupan. U većini slučajeva, sadržaj nije kreiran ili postavljen od strane počinilaca, već je pronađen na društvenim mrežama i organizovan u deljive zbirke ili albume. Ove zbirke mogu uključivati fotografije dece koja se pripremaju za školu, dece na bazenima, letovanju, tokom treninga i slično. Ono što čini ovaj sadržaj teško prepoznatljivim je to što slike, kada su odvojene, obično ne predstavljaju nikakvu opasnost i izgledaće normalno većini korisnika.
Iako deluje kao bezazlena aktivnost, izazovi poput Instagram stikera „Add yours“ mogu lako postati prilika za predatore da prikupe slike dece koje kasnije koriste i dele u zlonamernim mrežama.

Opasnost „bezopasnog“ sadržaja

Ovakav materijal može poslužiti kao ulazna tačka za pojedince sa seksualnim interesovanjem prema deci da se povežu i pristupe zlostavljačkom sadržaju. Zbirke sadržaja COITP često predstavljaju samo delić većih mreža počinilaca koji deluju ispod površine. Počinici unutar ovih mreža pomažu jedni drugima da otkriju novi eksploatativni sadržaj, ponekad čak i organizuju zbirke specifičnih žrtava. Ovaj fenomen postaje još opasniji jer se COITP koristi kao ulazna vrata za dalju zloupotrebu. Predatori često koriste online alate za kreiranje i deljenje sintetičkog sadržaja koji liči na stvarne slike, zahvaljujući napretku veštačke inteligencije. Ovi razvojni procesi su posebno zabrinjavajući za decu koja imaju etabliranu online prisutnost, poput dece porodičnih vlogera ili poznatih ličnosti. Obično su stotine njihovih slika i video snimaka dostupne javnosti, što stvara velike mogućnosti za počinioce da generišu AI-generisani sadržaj seksualne zloupotrebe dece (CSAM). Ova praksa je postala lakša zahvaljujući napretku veštačke inteligencije, koja omogućava generisanje novih slika i video sadržaja, što dodatno otežava otkrivanje i sprečavanje distribucije takvog materijala.

Izazovi u prepoznavanju i sprečavanju zloupotrebe

S obzirom na to da je COITP često legalan dok ne pređe u eksplicitni CSAM, moderatori na društvenim mrežama suočavaju se sa velikim izazovom u prepoznavanju opasnosti. Umesto da se fokusiraju na pojedinačne slike, potrebno je sagledati širu sliku i analizirati ponašanje korisnika i zajednica koje stvaraju i distribuiraju ovakve sadržaje. 

Zaštita dece na internetu zahteva hitnu adaptaciju politika platformi koje bi trebale da prepoznaju opasnost u prikupljanju, skladištenju i distribuciji sadržaja koji može delovati bezopasno, ali nosi visok rizik. Preporuke za politike platformi uključuju: analiziranje celokupnog ponašanja korisnika, ne samo pojedinačnih sadržaja, zabranjivanje kreiranja zbirki u smernicama zajednice, kao i uvođenje zaštita koje sprečavaju korisnike da dele zbirke sa drugim korisnicima. Potrebno je ulaganje u naprednu tehnologiju i ljudsku ekspertizu kako bi se identifikovali i sprečili predatori koji koriste ove alate za ostvarivanje svojih ciljeva.

Saveti za roditelje

Pored tehničkih rešenja, neophodno je i obrazovanje korisnika o opasnostima ovih praktika kako bi se smanjila mogućnost da nehotice postanu deo problema. Zato delimo sa vama nekoliko praktičnih saveta: 

• Održavajte otvorenu komunikaciju i razgovarajte sa decom o opasnostima na internetu i kako prepoznati nebezbedne situacije.
• Podstičite decu da budu pažljiva sa deljenjem slika na društvenim mrežama i podsetite ih na važnost privatnosti.
• Uverite se da su vaši, ali i nalozi vašeg deteta postavljeni na privatni režim.
• Obratite pažnju na online izazove koji mogu postati prilika za predatore da prikupe slike.
• Instalirajte alate za roditeljsku kontrolu koji prate aktivnosti i blokiraju neprimerene sadržaje.
• Ako primetite sadržaj koji uključuje seksualnu zloupotrebu, odmah prijavite.
• Naučite decu da ne dele lične informacije ili slike sa nepoznatim osobama.

Za više informacija o ovoj temi, posetite sajt: https://www.resolver.com/blog/how-predators-hide-in-plain-site/

Sadržaj je nastao u okviru projekta PROMISE, koji se realizuje uz podršku INL programa Ambasade Sjedinjenih Američkih Država u Srbiji od 2024. do 2027. godine. Cilj projekta je prevencija seksualnog zlostavljanja dece i mladih kroz podizanje svesti, izmene Krivičnog zakonika i unapređenje usluga za žrtve i njihove porodice.