Stotine naloga na TikToku ostvaruju milijarde pregleda objavljivanjem sadržaja kreiranog veštačkom inteligencijom, među kojima se nalaze i antuimigrantski kao i seksualizovani materijali, pokazuje novo istraživanje.
Kako piše The Guardian, istraživači su otkrili na stotine takvih naloga koji za samo mesec dana mogu da dostignu i do 4,5 milijardi pregleda.
Neprofitna organizacija AI Forensics iz Pariza identifikovala je 354 AI-orijentisana naloga, koja su tokom jednog meseca objavila čak 43.000 video-snimaka i prikupila oko 4,5 milijardi pregleda.
Prema njihovom izveštaju, deo naloga pokušava da "prevari" TikTokov algoritam masovnim objavljivanjem sadržaja u pokušaju da ostvari viralnost.
Jedan nalog je objavljivao i do 70 puta dnevno, što upućuje na potpuno automatizovan rad. Većina analiziranih profila otvorena je početkom ove godine.
Seksualizovani sadržaj i lažne vesti
Među najaktivnijim nalozima, polovina se fokusirala na sadržaje vezane za žensko telo.
"AI žene su uvek prikazane kao stereotipno privlačne, često u seksualizovanoj odeći ili s naglašenim dekolteom", navodi se u izveštaju.
Deo sadržaja širio je lažne vesti sa antimigrantskim narativima, ali i snimke koji seksualizuju žensko telo, uključujući i prikaze devojaka koje deluju kao maloletnice.
Neki AI video-snimci sa lažnim vestima koristili su vizuelni identitet velikih svetskih medija poput Sky Newsa i ABC-a.
Nakon što je The Guardian prijavio te naloge TikToku, pojedine objave su uklonjene. AI Forensics je utvrdio da polovina sadržaja nije bila označena kao AI-generisana, dok je manje od 2% imalo zvaničnu TikTok oznaku.
Istraživači upozoravaju da to znatno povećava manipulativni potencijal ovih materijala i dodaju da su neki nalozi mesecima uspevali da izbegnu moderaciju uprkos kršenju pravila platforme. Desetine naloga obuhvaćenih studijom kasnije su obrisane, što ukazuje da su ih moderatori uklonili.
TikTok: "Optužbe su neosnovane"
Iz TikToka navode da su tvrdnje iz izveštaja "neosnovane" i da su istraživači izdvojili njihovu platformu zbog problema prisutnog u celoj industriji. Prethodnog meseca kompanija je objavila da je na TikToku bilo najmanje 1,3 milijarde AI-generisanih objava.
"Uklanjamo štetan AI sadržaj, blokiramo stotine miliona bot naloga, ulažemo u napredne tehnologije za označavanje AI materijala i pružamo korisnicima alate i edukaciju kako bi kontrolisali svoje iskustvo", navodi portparol kompanije.
Primer AI "slopa"
Najpopularniji nalozi koje je AI Forensics izdvojio objavljivali su takozvani "slop" - besmislen i čudan AI sadržaj čija je svrha da preplavi feed korisnika.
Primeri uključuju životinje koje se takmiče u olimpijskim skokovima u vodu ili bebe koje govore. Istraživači priznaju da je deo ovakvog sadržaja ponekad "zabavan" i "simpatičan".
Potrebna bolja rešenja
Analiza je obuhvatila podatke prikupljene od sredine avgusta do sredine septembra.
Istraživači upozoravaju da se granica između autentičnog i veštački generisanog sadržaja sve više briše, što ukazuje na snažniji uticaj AI materijala na korisničke feedove.
AI Forensics pozdravlja TikTokovu odluku da omogući korisnicima ograničavanje AI sadržaja, ali ističe da je označavanje i dalje nedovoljno.
"Platforme moraju da odu korak dalje od slabih ili opcionih oznaka i razmotre odvajanje generativnog sadržaja od sadržaja koji kreiraju ljudi, ili da uvedu sistem doslednog, jasnog označavanja AI materijala", zaključuju oni.
(M.A./EUpravo zato/index.hr)
