Na generalnoj debati 81. zasedanja Generalne skupštine UN veštačka inteligencija našla se među glavnim temama, uz ratove u Ukrajini i na Bliskom istoku.
Generalni sekretar Antonio Gutereš ju je nekoliko dana ranije uvrstio među tri egzistencijalne pretnje, zajedno sa klimatskom krizom i rastom nejednakosti.
Savet bezbednosti je o rizicima razgovarao sa čelnicima kompanija OpenAI, Anthropic i Hugging Face, dok je grupa zemalja predvođena Finskom i Norveškom pozvala članice UN da razmotre osnivanje međunarodnog tela za nadzor najnaprednijih modela. Međutim, taj poziv nisu potpisale ni Amerika ni Kina, zemlje u kojima se razvijaju neki od najmoćnijih modela.
Glavne poruke sa obraćanja u Njujorku
U poslednjem obraćanju pred istek mandata Gutereš je ponovo pozvao na globalni nadzor nad rizicima veštačke inteligencije. On je istakao da se moć danas sve više meri podacima, računarskim kapacitetima i algoritmima, a da ona raste brže nego što svet uspeva da sagleda njene posledice.
Predsednik Amerike Donald Tramp istog dana je odbacio, kako je rekao, svaku „globalističku šemu“ za kontrolu veštačke inteligencije. Poručio je da je Amerika znatno ispred Kine i da neće usporavati razvoj tehnologije za koju smatra da će imati veći uticaj od industrijske revolucije.
Savet bezbednosti je narednog dana održao sastanak posvećen veštačkoj inteligenciji i međunarodnoj bezbednosti. Dario Amodei iz kompanije Anthropic upozorio je da bi ova tehnologija, ukoliko se njenim razvojem loše upravlja, mogla da ugrozi čovečanstvo.
Sem Altman iz OpenAI-ja istakao je da najvažnije odluke o veštačkoj inteligenciji moraju da se donose kroz demokratske procese i u institucijama koje odgovaraju građanima, a ne samo u laboratorijama u San Francisku.
Jošua Bendžio, kopredsedavajući naučnog panela UN za veštačku inteligenciju, predložio je uvođenje licenci za najnaprednije modele, osiguranje od odgovornosti, obavezno prijavljivanje incidenata i zajedničke bezbednosne zahteve. Pomenuo je i incident na platformi Hugging Face, o kojem smo već pisali, uz nekoliko sličnih primera iz drugih laboratorija.
Amerika se u Savetu bezbednosti protivila širim međunarodnim kontrolama, dok su predstavnici Kine isticali značaj međunarodne saradnje. Uoči susreta Trampa i Si Đinpinga u Vašingtonu, Vašington je Pekingu predložio da dve zemlje uspostave mehanizam za međusobno obaveštavanje o ozbiljnim incidentima sa veštačkom inteligencijom koji bi mogli da ugroze nacionalnu bezbednost.
Grupa država je tražila nadzor najnaprednijih modela
Inicijativu za međunarodni nadzor najnaprednijih modela uoči zasedanja pokrenuli su finski predsednik Aleksandar Stub i norveški premijer Jonas Gar Store. Podržalo ju je 26 zemalja, među kojima su Nemačka, Francuska, Španija, Rumunija, Moldavija, Kanada i Australija, kao i predsednica Evropske komisije. Među potpisnicima nisu Amerika, Kina, Velika Britanija i Italija.
Potpisnici traže da veštačka inteligencija ostane pod ljudskom kontrolom. Od kompanija očekuju da testiraju modele pre nego što ih puste u upotrebu i da nezavisnim stručnjacima omoguće pristup potreban za proveru njihove bezbednosti. Od država traže zajedničke standarde i sistem prijavljivanja ozbiljnih incidenata, kako bi i zemlje koje nisu centri razvoja veštačke inteligencije imale pristup stručnom znanju i pouzdanim procenama rizika. Članice UN pozivaju da iskoriste postojeće mehanizme i razmotre osnivanje međunarodne institucije koja bi utvrđivala standarde, omogućavala nezavisne provere i okupljala države kada modeli dostignu određeni nivo sposobnosti. Da li će takva institucija biti osnovana, kako bi radila i ko bi u njoj odlučivao, još nije dogovoreno. Poziv je i dalje otvoren za nove potpisnike.
UN ima tela koja rade na dijalogu i regulativi veštačke inteligencije
Generalna skupština UN osnovala je u avgustu 2025. Nezavisni međunarodni naučni panel za veštačku inteligenciju i Globalni dijalog o upravljanju veštačkom inteligencijom. Četrdeset članova panela imenovano je 12. februara 2026, uz protivljenje Amerike. Prvi Globalni dijalog održan je 6. i 7. jula u Ženevi, a naredni je zakazan za 3. i 4. maj 2027. u Njujorku.
Nijedno od ova dva tela ne donosi obavezujuće odluke: panel priprema naučne procene, dok dijalog okuplja države i druge učesnike radi razmene stavova.
Srbija je učestvovala na dijalogu u Ženevi 6. jula. Dan kasnije, na samitu AI for Good, koji je takođe održan u Ženevi, Kancelarija za IT i eUpravu najavila je da će Beograd 17. maja 2027, tokom izložbe EXPO 2027, biti domaćin prvog regionalnog samita AI for Good Impact Europe, u organizaciji Međunarodne unije za telekomunikacije.
Pozicija Srbije i GPAI
I pre osnivanja panela i pokretanja dijaloga, države su o principima razvoja veštačke inteligencije razgovarale kroz Globalno partnerstvo za veštačku inteligenciju (GPAI). Ono od 2024. radi zajedno sa OECD-om, a danas okuplja 46 zemalja i Evropsku uniju. Osnova njegovog rada su principi OECD-a usvojeni 2019. i dopunjeni 2024. godine. Oni podrazumevaju da veštačka inteligencija treba da koristi ljudima, poštuje ljudska prava i privatnost, bude transparentna i bezbedna i da se jasno zna ko snosi odgovornost za njenu primenu.
Ovi principi sadržani su u Preporuci OECD-a o veštačkoj inteligenciji, kojoj zemlje koje danas ulaze u GPAI moraju i formalno da pristupe. Srbija se partnerstvu pridružila pre njegovog povezivanja sa OECD-om, u vreme kada su članice prihvatale vrednosti ovih principa bez posebnog pristupanja Preporuci.
Srbija je 2025. godine predsedavala GPAI-jem zajedno sa Slovačkom, nakon ministarskog samita održanog u Beogradu u decembru 2024, na kojem je usvojena Beogradska deklaracija. Iz iskustva u vođenju predsedavanja znamo da se države relativno lako saglase oko principa, ali da je mnogo teže dogovoriti mere koje za sobom povlače konkretne obaveze.
Principi OECD-a i GPAI-ja već godinama određuju pravac odgovornog razvoja veštačke inteligencije, ali sami po sebi nisu pravno obavezujući.
Međunarodni nadzor nad najnaprednijim modelima, o kojem se govorilo u Njujorku, za sada je samo predlog. Još nema dogovora o tome ko bi proveravao modele, niti ko bi imao ovlašćenje da zaustavi njihovu primenu.