To odkritje prihaja le dva meseca po tem, ko je indijska vlada Meti naložila, naj z instagrama odstrani vse vsebine in oglase, ki promovirajo gradivo s področja spolne zlorabe otrok. Ukrep je sledil novinarski preiskavi BBC, ki je dokazala, da instagram v Indiji predvaja plačane oglase s sporno vsebino.
Nove ugotovitve
Kot poroča BBC, je organizacija Tech Transparency Project (TTP) iz Washingtona sporočila, da je na facebooku in instagramu odkrila 332 oglasov s spornim gradivom. Velika večina, natanko 274 oglasov, je bila objavljena avgusta letos.
V poročilu TTP, objavljenem v torek, navajajo, da so identificirali tudi več fotografij resničnih otrok, med njimi člana ene od evropskih kraljevih družin. Te fotografije so bile uporabljene v oglasih in naknadno predelane z umetno inteligenco. Pri TTP dodajajo, da se je več kot deset oglasov na Metinih platformah pojavilo celo potem, ko so družbo že obvestili o svojih ugotovitvah.
Težava v Indiji ne pojenja
Približno četrtina odkritih oglasov (84) je bila predvajana v Indiji, pri čemer jih je bilo 78 objavljenih po tem, ko je indijska vlada izdala uradni nalog za odstranitev in izvedla sestanek z vodstvenimi delavci Mete.
BBC navaja, da je širjenje gradiva s spolno zlorabo otrok v Indiji kaznivo dejanje, lastna pravila podjetja Meta pa prav tako izrecno prepovedujejo oglase z vsebino, ki spolno izkorišča ali ogroža mladoletne osebe.
Po preiskavi BBC je več indijskih institucij, vključno z Nacionalnim komisariatom za varstvo otrokovih pravic in Nacionalnim komisariatom za človekove pravice, napovedalo uvedbo uradnih preiskav.
Bhuwan Ribhu, ustanovitelj mreže Just Rights for Children, ki združuje več kot 250 organizacij za boj proti nasilju nad otroki, meni, da odziv Mete ni zadosten. Njegova mreža je na indijsko vrhovno sodišče vložila tožbo, pri čemer se sklicujejo na ugotovitve BBC ter zahtevajo, da se družbenim omrežjem z zakonom predpiše obvezna prijava in identifikacija tistih, ki tovrstne vsebine promovirajo.
»Družbena omrežja očitno kršijo indijsko zakonodajo, ker vsebin s spolno zlorabo otrok ne prijavljajo indijskim organom pregona, čeprav je to njihova zakonska obveznost po predpisih o varstvu otrok,« je za BBC dejal Ribhu.
Odziv družbe Meta
Na novinarska vprašanja o novih ugotovitvah so v Meti odgovorili: »Ne toleriramo aplikacij za odstranjevanje oblačil niti kakršnih koli oblik izkoriščanja otrok, bodisi resničnih oseb bodisi tistih, ki jih ustvari umetna inteligenca. Ti kriminalci nenehno prilagajajo svoje taktike, da bi se izognili odkrivanju, zato nenehno krepimo svoje sisteme zaznavanja in uveljavljanja pravil.«
Iz podjetja so že pred tem sporočili, da primere očitnega izkoriščanja otrok v skladu s predpisi dosledno prijavljajo ameriškemu Nacionalnemu centru za pogrešane in izkoriščane otroke, ki deluje kot osrednji svetovni sistem za prijave spletnih zlorab.
V novem odzivu so se branili tudi s trditvijo, da so bili številni prijavljeni oglasni posnetki že predhodno odstranjeni. »Vzpostavili smo močne obrambne mehanizme, ki vključujejo samodejno blokado spornih oglasov in stalen nadzor. Zaradi tega so bili mnogi od prijavljenih oglasov že odstranjeni, večina jih je zbrala manj kot 200 prikazov, skupni strošek oglaševanja pa je znašal manj kot 5000 dolarjev.«
Pomanjkljivosti v sistemu
Po navedbah TTP se skoraj vsi odkriti oglasi začnejo s fotografijo otroka, med predvajanjem videoposnetka pa umetna inteligenca manipulira s podobo, da bi prikazala spolna dejanja.
Kot primer so navedli oglas, v katerem je bila fotografija deklice animirana tako, da izvaja spolni akt. Pri TTP so poskušali oglase prijaviti prek Metinega uradnega sistema. Od 84 oglasov v Indiji jim jih je uspelo prijaviti 55. Pri 43 oglasih so prejeli odgovor, da ne kršijo oglaševalskih standardov, za 11 so jim sporočili, da je vsebina že odstranjena, na en odgovor pa še čakajo. Poudarjajo, da so bili vsi prijavljeni oglasi dejansko odstranjeni šele takrat, ko so se za uradni komentar obrnili neposredno na predstavnike Mete.
Podoben scenarij se je odvil med prejšnjo preiskavo BBC, ko platforma ob prijavi novinarjev oglasov ni umaknila sama od sebe, temveč šele po neposrednem novinarskem vprašanju, nakar je Meta deaktivirala oglase in suspendirala profile.
Sled vodi na Kitajsko in na Telegram
Velika večina oglasov je uporabnike preusmerjala na aplikacije za generiranje slik z umetno inteligenco, ki so v lasti kitajskih razvijalcev. V TTP trdijo, da je več spornih oglasov objavila celo Metina partnerska agencija iz Kitajske. Oglasi iz preiskave BBC so uporabnike vodili tudi do aplikacije Telegram, kjer je bilo sporno gradivo na voljo za nakup za približno en dolar. Predstavniki Telegrama so takrat odgovorili, da uporabljajo napredne sisteme samodejne in ročne moderacije ter da so »praktično odpravili javno širjenje« tovrstnih vsebin.