Vlade širom sveta sve odlučnije reaguju protiv Groka, četbota zasnovanog na veštačkoj inteligenciji koji je razvila kompanija xAI u vlasništvu Ilona Maska, zbog rastuće zabrinutosti da ovaj alat omogućava pravljenje lažnih, seksualno eksplicitnih snimaka i fotografija bez saglasnosti osoba koje su na njima prikazane.
Prošlog leta xAI je u Grok uveo funkciju za generisanje slika, uključujući i takozvani "spicy mode", koji je omogućavao stvaranje sadržaja za odrasle.
Poslednjih nedelja, četbot je odgovarao na zahteve korisnika da "skida odeću" sa fotografija žena ili da ih oblači u bikinije, čime su nastajali realistični AI дипфejk snimci - bez ikakvih zaštitnih mehanizama.
Od potpunih blokada u jugoistočnoj Aziji, preko krivičnih istraga, do regulatornih upozorenja u Evropi i Australiji, vlasti upozoravaju da postojeće mere zaštite očigledno ne funkcionišu.
Zemlje koje su zabranile ili ograničile Grok
Indonezija
Indonezija je prva zemlja koja je privremeno blokirala Grok, navodeći da je cilj zaštita žena, dece i šire zajednice od lažnog pornografskog sadržaja generisanog pomoću veštačke inteligencije.
Ministarka za komunikacije i digitalna pitanja Meutja Hafid poručila je da vlasti nesaglasne seksualne dipfejk sadržaje smatraju ozbiljnim kršenjem ljudskih prava, dostojanstva i bezbednosti građana u digitalnom prostoru. Policija je saopštila da je zabrana preventivna, dok se ne utvrdi da li je platforma bezbedna.
Prvi nalazi pokazali su da Grok nema efikasne mehanizme koji bi sprečili stvaranje i širenje pornografije zasnovane na stvarnim fotografijama indonežanskih građana, što može dovesti do povrede privatnosti, zloupotrebe lika i ozbiljnih psiholoških i društvenih posledica.
Malezija
Malezijska komisija za komunikacije i multimedije uvela je privremenu zabranu Groka zbog, kako je navedeno, ponovljene zloupotrebe alata za pravljenje opscenih i seksualizovanih slika bez saglasnosti.
Regulator je saopštio da je kompaniji X i xAI uputio dva zvanična zahteva za jače zaštitne mere, ali da su odgovori ukazivali na to da se sistem uglavnom oslanja na korisnike da prijavljuju problematičan sadržaj. Zaključeno je da to nije u skladu sa važećim zakonima Malezije.
Reakcije u Evropi i svetu
Evropska unija
Evropska komisija potvrdila je da ispituje slučajeve u kojima je Grok generisao seksualno sugestivne i eksplicitne slike maloletnih devojčica. Komisija je zatražila od kompanije X da sačuva svu dokumentaciju u vezi sa Grokom kako bi se utvrdilo da li platforma poštuje pravila EU, iako formalna istraga još nije zvanično pokrenuta.
Predsednica Evropske komisije Ursula fon der Lajen izjavila je da je zgrožena činjenicom da neka tehnološka platforma omogućava digitalno "razodevanje" žena i dece, poručivši da EU neće prepustiti zaštitu dece Silicijumskoj dolini.
Velika Britanija
Britanski regulator za medije Ofkom pokrenuo je istragu protiv platforme X zbog korišćenja Groka za generisanje seksualno eksplicitnih i nesaglasnih slika, uključujući i seksualizovane prikaze dece.
Ukoliko kompanija ne postupi po zahtevima regulatora, moguće su visoke novčane kazne, pa čak i blokada pristupa Groku.
Francuska
Francusko tužilaštvo proširilo je postojeću istragu protiv platforme X i na Grok, nakon optužbi da je alat korišćen za pravljenje i širenje lažnih seksualnih snimaka sa maloletnicima.
Nacionalni regulator za digitalne medije ispituje moguće kršenje evropskog Zakona o digitalnim uslugama.
Italija
Italijanska agencija za zaštitu podataka upozorila je da korišćenje Groka ili sličnih alata za "skidanje odeće" sa fotografija ljudi može dovesti do krivične odgovornosti.
Takve radnje se smatraju teškim kršenjem osnovnih prava i sloboda. Italija je već pooštrila krivične zakone, predviđajući zatvorske kazne za širenje AI dipfejk pornografije.
Nemačka
Nemačka vlada najavila je donošenje posebnog zakona protiv digitalnog nasilja, koji bi žrtvama omogućio lakše pravno delovanje.
Ministarstvo pravde ocenilo je da je masovna zloupotreba digitalnih manipulacija, poput onih koje omogućava Grok, neprihvatljiva i da zahteva strože krivičnopravne mere.
Australija
Australijska kancelarija za bezbednost na internetu saopštila je da beleži sve veći broj prijava u vezi sa Grokovim seksualnim AI sadržajem.
Ukoliko se utvrdi kršenje Zakona o onlajn bezbednosti, platformi mogu biti izrečene mere uklanjanja sadržaja i dodatne sankcije.
Takođe je podsetila da će od marta onlajn servisi, uključujući AI kompanije, biti u obavezi da spreče decu u pristupu seksualnom, nasilnom i štetnom sadržaju.
(M.A./EUpravo zato/euronews.com)
