Kompanija Meta susrela se sa brojnim žalbama i tužbama zbog lažnih oglasa i oglasa neprimerenog sadržaja, a poslednje u nizu je odobrenje plaćenih oglasa koji su sadržali slike seksualnog zlostavljanja dece generisane veštačkom inteligencijom.
Kako navodi BBC, Meta je u poslednjih deset meseci odobrila stotine takvih oglasa, a značajan deo njih prikazan je korisnicima u Indiji, otkriva novi izveštaj američkih aktivista.
BBC je pre izvesnog vremena otkrio da Instagram u Indiji prikazuje plaćene oglase koji promovišu materijale sa seksualnim zlostavljanjem dece, nakon čega je indijska vlada naložila Meti da sa Instagrama ukloni sav problematičan sadržaj i oglase koji ga promovišu.
Novi nalazi
Organizacija Tech Transparency Project (TTP) iz Vašingtona bavila se istragom i objavila da je na Facebooku i Instagramu pronašla 332 oglasa sa spornim materijalom, a većina njih objavljena je tokom avgusta ove godine.
U izveštaju se navodi da je identifikovano i nekoliko fotografija stvarne dece, uključujući člana jedne evropske kraljevske porodice,a te fotografije su kasnije korišćene u oglasima i zatim manipulisane veštačkom inteligencijom.
Otprilike četvrtina pronađenih oglasa prikazana je u Indiji, a veći deo njih je objavljen nakon što je indijska vlada izdala nalog za uklanjanje i održala sastanak sa visokim zvaničnicima Mete. Distribucija materijala sa seksualnim zlostavljanjem dece u Indiji je krivično delo. Metina sopstvena pravila takođe propisuju da oglasi ne smeju sadržati materijale koji seksualno iskorišćavaju ili ugrožavaju decu.
Metin odgovor
Nakon upita BBC-ja o novim nalazima, iz Mete su poručili: "Ne tolerišemo aplikacije za skidanje odeće niti bilo koji oblik iskorišćavanja dece, bilo da je reč o stvarnim osobama ili onima koje je generisala veštačka inteligencija. Ovi kriminalci stalno menjaju taktike kako bi izbegli otkrivanje i zato neprestano jačamo naše sisteme detekcije i sprovođenja pravila".
U novom odgovoru Meta se branila i time da su mnogi prijavljeni oglasi već bili uklonjeni.
"Izgradili smo snažne odbrambene mehanizme, uključujući sisteme koji blokiraju sporne oglase, kao i stalni nadzor u slučaju da nam nešto promakne. Zato su mnogi prijavljeni oglasi već bili uklonjeni, većina je imala manje od 200 prikaza, a ukupni trošak oglašavanja bio je manji od 5000 dolara".
Propusti u sistemu odobravanja
Oglasi na Metinim platformama objavljuju se tek nakon odobrenja, a TTP navodi da gotovo svi pronađeni oglasi počinju fotografijom deteta, a tokom reprodukcije videa veštačka inteligencija manipuliše slikom kako bi prikazala eksplicitne seksualne radnje. TTP je čak opisao oglas prikazan u Indiji, gde je fotografija devojčice animirana tako da izvodi eksplicitan seksualni čin, dok glas govori: "Nema ograničenja. Svi likovi su stvarni ljudi i postoji mnogo opcija. Ovo je AI koji muškarci zapravo koriste".
Trag vodi do Kine i Telegrama
Većina od 332 oglasa usmeravala je korisnike na aplikacije za generisanje AI slika, uglavnom kineskih programera, a oglasi koje je BBC pronašao u svojoj istrazi usmeravali su korisnike i na aplikaciju Telegram, gde su materijale mogli kupiti za oko jedan dolar. Iz Telegrama su tada odgovorili da koriste automatizovanu i ljudsku moderaciju te da su "praktično eliminisali javno širenje" takvog sadržaja.
TTP navodi da su se novi oglasi nastavili pojavljivati i nakon što su Metu obavestili o svojim nalazima. Kao dokaz su podelili detalje o 17 oglasa, od kojih je 11 prikazano u Indiji 1. i 2. septembra.
(EUpravo zato/Index)