Više od 100 humanitarnih organizacija i organizacija za zaštitu dece pozvalo je na hitnu akciju protiv aplikacija i alata zasnovanih na veštačkoj inteligenciji koji služe za "razgolićavanje", upozoravajući na ozbiljne posledice po bezbednost i ljudska prava. U toj koaliciji nalaze se i Amnesti internešenel, Evropska komisija, Interpol, organizacija Safe Online, Save the Children, kao i brojni stručnjaci za zaštitu dece i zagovornici ljudskih prava.
Ova inicijativa pokrenuta je nakon burnih reakcija povodom takozvanog "Grok" skandala, kada su korisnici AI čatbota kompanije Ilona Maska tražili da sa fotografija žena ukloni odeću. Sve je počelo trendom "obuci je u bikini", kojim su fotografije menjane tako da žene na njima izgledaju kao da nose kupaći kostim, ali je vrlo brzo došlo do stvaranja sve eksplicitnijih i seksualizovanijih sadržaja.
Takve lažne i neautorizovane slike potom su masovno deljene na društvenoj mreži X, gde su bile dostupne milionima korisnika. Procene govore da je Grok do sada generisao oko tri miliona neautorizovanih eksplicitnih slika.
U sve većem broju slučajeva, sadržaji nastali uz pomoć AI alata za nudifikaciju povezuju se sa ucenama, prinudom i materijalima seksualnog zlostavljanja dece, pri čemu su žrtve najčešće žene i deca.
Ozbiljna pretnja bezbednosti dece i ljudskom dostojanstvu
Globalna koalicija upozorava da ovakve aplikacije i alati predstavljaju ozbiljnu i neprihvatljivu pretnju bezbednosti dece i ljudskom dostojanstvu.
"Alati za razgolićavanje stvorili su do sada neviđenu pretnju našoj deci. Veštačka inteligencija, tehnologija koja bi trebalo da proširi ljudske mogućnosti, pretvorena je u oružje protiv dece", izjavila je Marija Manojlović, direktorka organizacije Safe Online.
"Štetu umanjujemo time što je nazivamo ‘onlajn’, kao da je manje ozbiljna od onoga što se dešava u stvarnom svetu, ali trauma je stvarna", dodala je ona.
Iako se ove aplikacije često predstavljaju kao namenjene odraslima, sve češće se koriste za stvaranje nezakonitih seksualnih sadržaja koji uključuju decu, bez ikakvog pristanka, efikasnih zaštitnih mehanizama ili odgovornosti.
"Tehnološke kompanije imaju mogućnost da prepoznaju i blokiraju razgolićeni sadržaj koji uključuje decu. Distribucija materijala seksualnog zlostavljanja dece je nezakonita u svim pravnim sistemima i digitalne platforme moraju biti usklađene sa pravilima koja važe i za druge kanale proizvodnje i distribucije", naglasila je Manojlović.
"Iskreno je šokantno da se ove platforme monetizuju, a da nemaju obavezu da prijavljuju počinioce ili sarađuju sa industrijskim partnerima kako bi se prekinuli tokovi plaćanja. To su mehanizmi zaštite koji postoje u stvarnom svetu i moraju se primenjivati i na internet", dodala je ona.
Pritisak da se AI tehnologije za nudifikaciju zabrane sve je veći, a zagovornici zabrane ističu da one nemaju nikakvu društveno korisnu svrhu. Zbog toga koalicija zahteva da se ovakvi alati blokiraju, kao i da se njihovi kreatori i platforme koje ih distribuiraju pozovu na odgovornost.
(EUpravo zato/Euronews)