Proleća 2023. godine, samo nekoliko nedelja pošto je Samsung ukinuo sopstvenu zabranu i dozvolio inženjerima da koriste ChatGPT, dogodilo se upravo ono čega se kompanija pribojavala.
Inženjeri u sektoru za poluprovodnike naišli su na tehnički problem i uradili ono što danas radi pola sveta. Otvorili su alat i zamolili ga za pomoć. Da bi pitanje uopšte imalo smisla, ubacili su delove internog izvornog koda i beleške sa zatvorenog sastanka. Problem je rešen za nekoliko minuta. Podaci, međutim, više nisu bili samo Samsungovi. Otišli su na tuđe servere i, bar u teoriji, postali dostupni nekome ko ih nikada nije smeo videti.
Pošto je tek bio popustio kontrolu, Samsung je pažljivo pratio kako se alat koristi, pa je za nepunih dvadeset dana uočio tri ovakva propusta. U javnost su izašli kada je o njima izvestio jedan južnokorejski list, što je kompanija potom potvrdila. Vredi naglasiti da nikada nije dokazano da je iko zaista preuzeo te podatke. Problem je bio u tome što jednom kada su napustili firmu, više nisu mogli da se povuku.
Reakcija je bila brza i oštra. Samsung je zaposlenima zabranio korišćenje javnih generativnih alata, a potom se okrenuo razvoju sopstvenih, internih rešenja. Mnoge kompanije nakon njih su uvele slične zabrane. Amazon, JPMorgan i Goldman Sachs ograničili su ili zabranili upotrebu javnih alata na radnom mestu, svi iz straha da poverljivi podaci ne procure tamo odakle ih više niko ne može povući.
Ono što ovaj slučaj čini važnim nije to što je Samsung velika firma sa skupim tajnama. Važno je to što nijedan od tih inženjera nije imao lošu nameru. Hteli su samo da brže završe posao. A upravo tako, bez ijednog zlonamernog koraka, danas iz firmi curi najviše podataka.
Podaci i dalje cure
Slučaj iz Australije iz prošle godine pokazuje da se ovakva curenja i dalje dešavaju. Bivši saradnik jednog državnog organa za obnovu u Novom Južnom Velsu ubacio je u ChatGPT tabelu sa više od 12.000 redova podataka o žrtvama poplava. U njoj su se nalazila imena, adrese, kontakti i zdravstvene informacije. Saradnik je to uradio u martu, želeći da brže obradi zahteve za pomoć, i to bez ikakvog odobrenja.
Za razliku od Samsunga, ovde niko nije gledao u pravom trenutku. Upload je obelodanjen tek u oktobru, više od šest meseci kasnije, a osoba koja ga je napravila u međuvremenu je već otišla na drugo radno mesto. Da bi se uopšte utvrdilo na koga se podaci odnose, stručnjaci su morali red po red da pretresaju celu tabelu. Tek tada se došlo do konačne brojke od 2.031 osobe.
Ovaj primer ukazuje da rizik ne ulazi samo kroz vaše zaposlene, nego i kroz saradnike, konsultante i dobavljače, što je isto pitanje bezbednosti lanca snabdevanja o kome govori i NIS2 direktiva vezana za sajber bezbednost. Takođe pokazuje da podaci koji procure često nisu vaši, već tuđi. To su podaci klijenata, pacijenata, građana za koje vi odgovarate
Shadow AI, ono što ne vidite
Slučajevi koji dospeju u novine samo su vrh ledenog brega. Ispod površine je tiha, svakodnevna praksa. Prema izveštaju kompanije LayerX iz 2025. godine, oko 18 odsto zaposlenih redovno unosi podatke u generativne alate, a više od polovine tih unosa sadrži korporativne informacije. Najopasniji je podatak da čak 82 odsto tih unosa ide preko ličnih, nekontrolisanih naloga.
To znači da većina firmi nema nikakav uvid u to šta zaista izlazi iz kancelarije kada neko sebi pripomogne nekim od tih alata. Struka je za ovu pojavu skovala izraz shadow AI, po uzoru na stari shadow IT. Razlika je u tome što je novi oblik opasniji, jer ovi alati ne barataju samo fajlovima i porukama, već analizom i razmišljanjem, a hranimo ih upravo onim što nam je najpoverljivije.
Ne otkazuje softver, otkazuje upravljanje
Svi ovi primeri vode istom zaključku. Podaci ne cure zato što je veštačka inteligencija nesigurna, nego zato što niko zaposlenima nije rekao šta sme da uđe u takav sistem. To nije tehnološki problem, već problem upravljanja.
Razlika između dva primera nije u tome da li je greška mogla da se povuče, jer nije mogla ni u jednom slučaju. Razlika je u tome koliko je trebalo da firma sazna da se nešto dogodilo. Samsung je imao alat i mogao je da reaguje. Australijski organ nije imao nikakav nadzor, pa je istinu morao da rekonstruiše šest meseci unazad, dok su ljudi sve to vreme bili nesvesni da im podaci stoje negde van sistema.
Bitno je napraviti balansiranu politiku korišćenja AI alata. Ako alat zabranite, ljudi neće prestati da ga koriste. Preći će na privatne naloge, na svoj telefon, na aplikaciju koju vaš IT sektor ne vidi. Zatvorili ste jedna vrata, a otvorili tri prozora. Mnogo je delotvornije usmeriti upotrebu nego je gušiti, to jest dati ljudima pouzdan alat i jasna pravila, umesto da se pravite da se ništa ne dešava dok se itekako dešava.
Šta konkretno treba uraditi?
Dobro postavljena interna politika o veštačkoj inteligenciji ne mora da bude veliki pravilnik. Mora da bude jasna i, što je još važnije, neko mora zaista da je sprovodi. U praksi se svodi na nekoliko stvari koje moraju da idu zajedno.
Sve počinje od klasifikacije podataka, to jest od najjednostavnijeg mogućeg pravila o tome šta nikada ne sme u javni servis veštačke inteligencije. Tu spadaju lični podaci klijenata i zaposlenih, izvorni kod, ugovori, finansijski izveštaji pre objave i poslovne tajne. Ako firma već ima neku klasifikaciju zbog propisa o zaštiti podataka ili informacione bezbednosti, ne pravi se nova, već se postojeća prosto proširuje na upotrebu veštačke inteligencije. Sve što je označeno kao poverljivo ostaje u zatvorenom sistemu.
Sledi pitanje alata i naloga, na kome se najčešće greši. Razlika između privatnog i poslovnog naloga je važna. Poslovne verzije po pravilu ne koriste vaše unose za treniranje modela, imaju kontrolu pristupa i evidenciju o korišćenju. Zato firma bira koje platforme zvanično dozvoljava, otvara službene naloge, sa dobavljačima potpisuje ugovore o zaštiti podataka i blokira lične naloge na poslovnoj opremi. Tako nestaje izgovor da neko nije imao čime da radi.
Treća stvar koju mnogi preskoče jeste vlasništvo nad politikom. Kao što i NIS2 direktiva i novi srpski Zakon o informacionoj bezbednosti odgovornost za sajber rizik stavljaju na vrh menadžmenta, tako i politika o veštačkoj inteligenciji mora da ima konkretno odgovorno lice ili tim. Važno je imati odgovorno lice koje će da revidira politiku, da je prilagođava promenama u tehnologiji.
Osim pravila važna je i obuka, jer većina grešaka nastaje iz neznanja, a ne iz loše namere. Kratke i redovne radionice sa stvarnim primerima, poput ova dva iz teksta, vrede više od dvadeset strana pravilnika. Onaj ko jednom čuje šta se desilo u Samsungu ili Australiji i vidi koje posledice to može da ima i za njega i za firmu mnogo će ozbiljnije da shvati korišćenje alata.
Zaposleni često uzmu generisani tekst i pošalju ga klijentu bez provere. Greške modela, pitanje autorskih prava nad generisanim sadržajem i obična tačnost traže ljudsko oko pre nego što analiza ili preporuka napusti firmu. Isto važi i za spoljne saradnike.
Slučaj iz Australije nas podseća da pravila moraju ugovorom da obavežu i podizvođače, jer u suprotnom rizik samo odlazi kod njih.
Nije potreban Zakon o AI da biste uredili politiku
Interna politika nije zamena za zakon, ali usput pokriva i dobar deo zakonskih obaveza. Evropski Akt o veštačkoj inteligenciji, čija je obaveza takozvane pismenosti o veštačkoj inteligenciji na snazi od februara 2025. godine, izričito traži da organizacije koje koriste takve sisteme obezbede odgovarajuće razumevanje i obuku zaposlenih. Opšta uredba o zaštiti podataka, GDPR, primenjuje se na svaki lični podatak, pa i na onaj koji upadne u prompt. Zakon o informacionoj bezbednosti traži upravljanje rizikom i njegovu procenu u okviru internog sajber upravljanja.
Dobra interna politika delimično ispunjava sve tri obaveze odjednom, što je dodatna korist. Glavna korist je u tome što uvodi zdrav razum tamo gde ga inače nema i što firmu koja je shvati ozbiljno čini spremnijom i za stvarni incident i za regulatornu proveru, bez obzira na to koji je propis u datom trenutku na snazi.
Ono što sam naučio radeći na ovakvim pravilima jeste da je najteži deo posla onaj najmanje tehnički. Postaviti klasifikaciju koja prati stvarni tok podataka u konkretnoj firmi, izabrati alat koji odgovara njenom poslu, odrediti ko je za šta odgovoran i sve to održavati dok se i tehnologija i propisi menjaju iz meseca u mesec, to već traži da neko u isto vreme razume i posao, i alat, i zakon. Običan šablon neće odraditi to za vas.
Za firme je važno da ne čekaju da im se desi incident da bi shvatili koliko vrede jasna pravila. Veštačku inteligenciju vaši ljudi već koriste, sa vašim odobrenjem ili bez njega. Vaš jedini izbor jeste da li će je koristiti po pravilima koja ste vi postavili ili po onima kojih nema.