Kompanija Meta je tokom poslednjih deset meseci odobrila stotine plaćenih oglasa koji su sadržali slike seksualnog zlostavljanja dece generisane veštačkom inteligencijom, pokazuje novo istraživanje američkih aktivista. Značajan deo tih oglasa prikazan je korisnicima u Indiji, piše BBC.
Ovo otkriće dolazi samo dva meseca nakon što je indijska vlada naložila Meti da sa Instagrama ukloni sav sadržaj i oglase koji promovišu materijale seksualnog zlostavljanja dece (CSAM).
Nalog je usledio nakon istrage koja je pokazala da Instagram u Indiji prikazuje plaćene oglase sa takvim sadržajem.
Organizacija pronašla 332 sporna oglasa
Organizacija Tech Transparency Project (TTP) iz Vašingtona saopštila je da je na Facebooku i Instagramu pronašla 332 oglasa sa spornim materijalom. Velika većina, odnosno 274 oglasa, objavljena je tokom avgusta ove godine.
U izveštaju TTP-a navodi se da su identifikovane i fotografije stvarne dece, uključujući člana jedne evropske kraljevske porodice. Fotografije su korišćene u oglasima, a potom manipulisane pomoću veštačke inteligencije.
TTP tvrdi da se više od deset oglasa pojavilo na Metinim platformama čak i nakon što je kompanija obaveštena o njihovim nalazima.
Problem u Indiji i dalje traje
Od ukupnog broja pronađenih oglasa, 84 su bila prikazana korisnicima u Indiji, dok je 78 objavljeno nakon što je indijska vlada izdala nalog za uklanjanje takvog sadržaja i održala sastanak sa visokim zvaničnicima Mete.
Distribucija materijala seksualnog zlostavljanja dece u Indiji predstavlja krivično delo. I Metina pravila zabranjuju oglase koji sadrže materijale kojima se seksualno iskorišćavaju ili ugrožavaju deca.
Nakon ranije istrage, više indijskih institucija, među kojima su Nacionalna komisija za zaštitu prava dece i Nacionalna komisija za ljudska prava, najavilo je istrage.
Buvan Ribu, osnivač mreže Just Rights for Children, koja okuplja više od 250 organizacija za sprečavanje nasilja nad decom, smatra da Metin pristup nije dovoljan.
Njegova mreža podnela je tužbu indijskom Vrhovnom sudu i pozvala se na prethodna otkrića. Od suda traže da društvenim mrežama naloži obavezno prijavljivanje i identifikaciju osoba koje promovišu takav materijal.
– Društvene mreže očigledno krše indijske zakone jer ne prijavljuju sadržaj sa seksualnim zlostavljanjem dece indijskim organima gonjenja, a to je obaveza prema našim zakonima o zaštiti dece – rekao je Ribu.
Meta: Stalno jačamo sisteme detekcije
Meta je, odgovarajući na pitanja o novim nalazima, saopštila da ne toleriše aplikacije za skidanje odeće niti bilo koji oblik iskorišćavanja dece, bez obzira na to da li je reč o stvarnim osobama ili sadržaju generisanom veštačkom inteligencijom.
– Ovi kriminalci stalno menjaju taktike kako bi izbegli otkrivanje i zato neprestano jačamo naše sisteme detekcije i sprovođenja pravila – navela je kompanija.
Meta je ranije saopštila da u slučajevima očiglednog iskorišćavanja dece prijavljuje sadržaj Nacionalnom centru za nestalu i eksploatisanu decu (NCMEC) u SAD, u skladu sa zakonskim obavezama.
Kompanija je navela i da su mnogi sporni oglasi već uklonjeni.
– Izgradili smo snažne odbrambene mehanizme, uključujući sisteme koji blokiraju sporne oglase, kao i stalni nadzor u slučaju da nam nešto promakne – saopštila je Meta.
Kompanija tvrdi da je većina prijavljenih oglasa imala manje od 200 pregleda, dok je ukupan trošak njihovog oglašavanja bio manji od 5.000 dolara.
Kako su oglasi prolazili kontrolu?
Oglasi na Metinim platformama objavljuju se tek nakon odobrenja, pri čemu se sistem u velikoj meri oslanja na automatizaciju.
TTP navodi da gotovo svi pronađeni oglasi počinju fotografijom deteta, nakon čega veštačka inteligencija tokom reprodukcije videa manipuliše slikom i prikazuje eksplicitne seksualne radnje.
Organizacija je kao primer navela oglas prikazan korisnicima u Indiji u kojem je fotografija devojčice animirana tako da prikazuje eksplicitni seksualni čin. Prema TTP-u, taj oglas je u Indiji tokom dve nedelje u avgustu objavilo više od 50 profila.
TTP je pokušao da prijavi oglase putem Metinog sistema. Od 84 oglasa prikazana u Indiji, organizacija je uspela da prijavi 55.
Za 43 oglasa dobili su odgovor da ne krše standarde oglašavanja. Za još 11 rečeno im je da je sadržaj već uklonjen, dok se za jedan oglas odgovor još čekao.
TTP tvrdi da su svi oglasi koje su prijavili uklonjeni tek nakon što su se obratili Meti za zvanični komentar.
Slična situacija dogodila se i tokom ranije istrage. Kada je jedan od oglasa prijavljen, platforma ga nije uklonila. Tek nakon direktnog upita novinara Meta je deaktivirala oglase i suspendovala povezane profile.
Trag vodi do Kine i Telegrama
Velika većina od 332 oglasa usmeravala je korisnike ka aplikacijama za generisanje AI slika, uglavnom kineskih programera.
TTP tvrdi da je nekoliko spornih oglasa postavila čak i Metina partnerska agencija u Kini. Takvi partneri, poznati kao „preprodavci“, usmeravaju milijarde dolara kineskog oglašavanja na Facebook i Instagram.
Na pitanja TTP-a o tim navodima partneri nisu odgovorili.
Oglasi pronađeni tokom ranije istrage usmeravali su korisnike i na Telegram, gde su materijali mogli da se kupe za oko jedan dolar.
Iz Telegrama su tada odgovorili da koriste automatizovanu i ljudsku moderaciju i da su praktično eliminisali javno širenje takvog sadržaja.
TTP, međutim, navodi da su se novi sporni oglasi nastavili pojavljivati i nakon što je Meta obaveštena o nalazima organizacije.
Kao dokaz, TTP je objavio detalje o 17 oglasa, od kojih je 11 bilo prikazano korisnicima u Indiji 1. i 2. septembra.
Komentari (0)