Evropska komisija je početkom jula predstavila akcioni plan koji spaja dve oblasti koje se najčešće spominju kod ulaganja u tehnologije, veštačku inteligenciju i sajber bezbednost.
Te dve teme se u evropskim propisima dodiruju godinama, ali je ovo prvi put da im je Komisija posvetila poseban plan. Veštačka inteligencija istovremeno povećava i opasnost i mogućnost odbrane, pa se u raspravama obično čuju dve krajnosti.
Jedni tvrde da nas čekaju automatizovani napadi od kojih odbrane nema, drugi da će ista tehnologija sama pronaći i zatvoriti slabosti pre nego što ih neko iskoristi.
Ponekad deluje kao da je to trka bez kraja.
U samom planu piše da veštačka inteligencija može da se zloupotrebi za pronalaženje ranjivosti, automatizaciju napada i za incidente kakvi se po obimu i brzini ranije nisu viđali. Hena Virkunen, potpredsednica Komisije zadužena za tehnološki suverenitet, bezbednost i demokratiju, sažela je to ocenom da veštačka inteligencija menja samo značenje sajber bezbednosti i da Evropa mora da drži korak.
Napadi uz pomoć veštačke inteligencije
Da opasnost nije teorijska, pokazalo se prethodnih meseci. Anthropic tvrdi, na osnovu sopstvenih testiranja, da njegov model Claude Mythos Preview u pojedinim zadacima pronalaženja i iskorišćavanja ranjivosti nadmašuje sve osim najboljih stručnjaka iz oblasti. Ista kompanija je objavila da je model otkrio i grešku staru dvadeset sedam godina u operativnom sistemu OpenBSD, koji važi za jedan od najbezbednijih na svetu. O tome sam već pisao, ali je ovde važno skrenuti pažnju na to šta se menja.
Tehnologija koja pomaže da se ranjivosti pronađu i otklone pomaže i da se pronađu i iskoriste, a taj odnos nije ravnopravan.
Odbrana mora da zatvori svaku slabost, napadaču je dovoljna jedna.
Ko sme da koristi najsposobnije modele danas odlučuju kompanije koje ih prave. Anthropic je Mythos zadržao za zatvoreni krug od pedesetak partnera, a početkom juna najavio da mu se priključuje još oko sto pedeset organizacija iz više od petnaest zemalja. Ni to nije cela priča, jer reč imaju i države u kojima modeli nastaju. Američka vlada je 12. juna privremeno zabranila strancima pristup modelima Mythos 5 i Fable 5, da bi ograničenja ukinula krajem juna, a pristup se od početka jula postepeno vraća. Evropski plan je prvi pokušaj da o pristupu odlučuju i evropske institucije, a ne samo kompanije i vlade drugih zemalja.
Koje su glavne najave iz evropskog plana?
Plan ima tri celine, uz poseban deo o međunarodnoj saradnji, od G7 do NATO. Prva se bavi najnaprednijim, takozvanim frontier modelima. Evropa tokom 2027. treba da dobije zaposli eksperte i uzme alate za procenu takvih modela, a do kraja ove godine ENISA i istraživački centar Komisije treba da pripreme bezbednu platformu za testiranje i smernice o tome ko i pod kojim uslovima dobija pristup najnaprednijim modelima. Smernice neće biti nova pravna obaveza za proizvođače, već spisak kriterijuma i preporučen postupak, baziran značajno na EU AI Act. Proizvođači modela opšte namene svoje obaveze po tom propisu imaju još od avgusta prošle godine, a od 2. avgusta ove godine Komisija dobija i ovlašćenja da nadzire i kažnjava, do tri odsto svetskog godišnjeg prometa ili 15 miliona evra, u zavisnosti od toga šta je više.
Druga celina se fokusira na osnovnu sajber higijenu. Plan se oslanja na postojeće propise, pre svega NIS2 direktivu, DORA uredbu i Akt o sajber otpornosti, ali predviđa nove programe i alate. Među njima su prilagođavanje evropske baze ranjivosti novim pretnjama i prvi program za otpornost ključnog softvera otvorenog koda, koji kreće krajem godine. Otvoreni kod se nalazi u gotovo svemu što koristimo, a mnoge važne komponente održavaju mali timovi i zajednice koje često nemaju sredstva srazmerna značaju tog softvera.
Na kraju, najvažniji je deo oko finansiranja, 200 miliona evra već se ulaže ili je planirano kroz programe Horizont Evropa i Digitalna Evropa, a kompanije koje spajaju veštačku inteligenciju i bezbednost mogu da računaju i na deo paketa od sto miliona evra koji Evropski savet za inovacije namenjuje strateškim tehnologijama. Najavljeno je i takmičenje u kojem će se timovi nadmetati ko će uz pomoć veštačke inteligencije bolje pronalaziti i otklanjati softverske ranjivosti, po ugledu na slična takmičenja koja su u Americi već dala upotrebljive alate.
Treba odmah reći da to nije nov, poseban fond, nego uglavnom novac iz programa koji već postoje. I da je iznos skroman u poređenju sa privatnim sektorom. Alphabet, Amazon, Meta i Microsoft su prošle godine zajedno uložili oko 410 milijardi dolara, najviše u centre podataka i infrastrukturu za veštačku inteligenciju. Najnapredniji modeli danas uglavnom nastaju izvan Evrope i nijedna laboratorija koja radi na samom vrhu te tehnologije nema sedište u Uniji. Zato ovaj plan pomalo potvrđuje da je Evropa prihvatila da najnaprednije modele ne pravi, pa hoće bar da uredi pristup njima, da izmeri koliko su opasni i da u međuvremenu gradi sopstvene kapacitete, kako ne bi trajno ostala samo korisnik tuđe tehnologije.
Za razliku od mnogih strategija, plan ima rokove, jasno određene institucije i novac, pa će se već za godinu dana videti šta je urađeno. Brisel ovog puta ne pokušava da uredi sve odjednom, već bira ono što realno može da promeni, pristup, procenu i osnovno uređenje.
Značaj za Srbiju
Za Srbiju je ovaj plan važniji nego što se na prvi pogled čini. Naš novi Zakon o informacionoj bezbednosti iz 2025. pisan je upravo radi usklađivanja sa principima NIS2 direktive, pa nam standardi iz evropskog plana nisu strani. Deo domaćih firmi koje rade za evropske klijente već dobija upitnike o upravljanju rizicima, sve češće i o tome kako koriste AI alate, i ti zahtevi do nas stižu kroz poslovne ugovore brže nego kroz propise.
Srbija kao pridružena zemlja učestvuje u programima Horizont Evropa i Digitalna Evropa, pa deo konkursa iz ovog plana može da bude dostupan i domaćim timovima, u zavisnosti od uslova svakog poziva. Za zajednicu koja se u Beogradu razvija oko sajber bezbednosti i veštačke inteligencije to je prilika da na domaće projekte dovede evropski novac i partnere.
Najvažnije od svega, plan pokazuje šta će se tražiti u narednim godinama: procena bezbednosti AI sistema, testiranje modela, uređen pristup, otpornost otvorenog koda. Ko bude imao ljude za te poslove, imaće šta da ponudi i institucijama i tržištu.
Kao neko ko je godinama radio na ovim politikama, ovakve dokumente ne čitam po onome što obećavaju, nego po onome što se može videti između redova. Ovaj priznaje da je veštačka inteligencija postala jedno od najvažnijih bezbednosnih pitanja i da Evropa u toj oblasti zavisi od tehnologije koja nastaje van njenih granica. Pravila se tek pišu i kapaciteti tek grade, i ovo će biti oblasti u koje će se sve više ulagati.