OpenAI, tvorac ChatGPT-a, razvio je alat koja će postavljati vodeni žig na tekstove koji su generisani veštačkom inteligencijom kako bi se uskladili sa Zakonom o veštačkoj inteligenciji (AI), ali kompanija ga još uvek nije objavila, navodno zato što se plaši da će izgubiti korisnike.
Zakon EU o veštačkoj inteligenciji zahteva od alata veštačke inteligencije, poput ChatGPT-a, koji generišu audio, slikovni, video ili tekstualni sadržaj da oni budu uočljivo označeni kao veštački generisani ili manipulisani.
Zakon je stupio na snagu 1. avgusta, ali ovaj uslov će se primenjivati od 2. avgusta 2026. godine.
Wall Street Journal (WSJ) je citirao izvore koji su rekli da je OpenAI spreman da primeni alatku za tekstualni vodeni žig već godinu dana, ali okleva da to učini jer se plaši da će izgubiti korisnike.
U ažuriranju posta na blogu u nedelju, OpenAI je potvrdio da je razvio "veoma precizan" alat za vodeni žig teksta koji "će nastaviti da da razmatraju dok istražujuju alternative".
Međutim, kompanija je rekla da trenutno procenjuju rizike takvog alata, na primer, "naše istraživanje sugeriše da metoda vodenog žiga na tekstu ima potencijal da nesrazmerno utiče na neke grupe", kao što su oni kojima engleski nije maternji jezik.
Prema WSJ-u, OpenAI raspravlja i sprovodi ankete od novembra 2022. kako bi odlučio da li da primeni alatku za stavljanje vodenog žiga.
U jednoj anketi, skoro 30 odsto lojalnih korisnika ChatGPT-a reklo je da bi manje koristili četbot da OpenAI postavi vodene žigove, a rival ne. Međutim, drugo istraživanje koje je sproveo OpenAI pokazalo je da, apstraktno, četiri od pet ljudi širom sveta podržavaju ideju alata za otkrivanje veštačke inteligencije.
Vodeni žig kao alat
Alat bi digitalno označio svaki sadržaj kreiran od strane ChatGPT-a, otežavajući ljudima da zloupotrebe sadržaj generisan od veštačke inteligencije ili da ga koriste za varanje. Zloupotreba takvog sadržaja izazvala je velike probleme kod poslodavaca, nastavnika i profesora, koji su tražili načine da se suzbije upotreba.
WSJ je izvestio da alatka za vodeni žig ne ostavlja vidljive tragove u pisanom tekstu, ali kada se taj tekst proveri pomoću alata za otkrivanje AI, on se označava kao sadržaj generisan AI.
Trenutni alati za otkrivanje veštačke inteligencije su donekle nepouzdani i mogu dati mešovite rezultate, što otežava nastavnicima i profesionalcima da obeleže sadržaj generisan veštačkom inteligencijom.
Vodeni žig se pominje u nacrtu sporazuma o veštačkoj inteligenciji, skupu dobrovoljnih obaveza za koje kompanije mogu da se prijave kako bi se pripremile za usklađenost sa Zakonom o veštačkoj inteligenciji. Komisija se nada da će u septembru održati događaj potpisivanja obećanja na kojem će se kompanije javno obavezati na taj sporazum.
(JA/EUpravo zato)