Anthropic je za jedan svoj model ocenio da je preopasan da bi ga pustio u javnost. Reč je o modelu Mythos, toliko sposobnom u pronalaženju slabosti u tuđem softveru da je kompanija odlučila da ga ne ponudi svima, nego da ga zadrži za uzak krug proverenih partnera.
To pokazuje vrlo brz napredak tehnologije. Takođe otvara pitanje koje će biti aktuelno sve više u narednim godinama, a to je ko i na koji način odlučuje šta će od tehnologija biti dostupno. Kada je nešto previše opasno da bi bilo dostupno svima, i ko o tome odlučuje.
Šta je zapravo Mythos?
Mythos je model opšte namene, izuzetno jak u pisanju koda i u zaključivanju. Sposobnost da pronalazi slabosti u tuđem softveru nije mu posebno svojstvo, nego, kako navodi sama kompanija, sporedni proizvod opšteg napretka. To takođe pokazuje da ubrzani razvoj AI dovodi do dosta novih i ponekad neočekivanih rezultata. Opasnost kod ovakvih modela je to što je bolji u tome da popravi od, to je bolji i u njegovom razbijanju.
U pronalaženju i iskorišćavanju softverskih slabosti, model nadmašuje sve osim malog broja najboljih programera. U jednom testu je, bez ijedne ljudske komande, sam pronašao grešku i napisao funkcionalan napad kojim bi se preuzela kontrola nad računarom.
U testiranjima je našao hiljade grešaka za koje niko ranije nije znao, u svim većim operativnim sistemima i internet brauzerima. Takva greška je posebno opasna zato što tvorci softvera za nju ne znaju, pa nemaju vremena da je zakrpe pre nego što je neko zloupotrebi. Za napadače je to neprimetan ulaz u sistem koji se smatra sigurnim.
Kroz zajednički projekat sa nizom partnerskih kompanija, model je pomogao da se otkrije više od deset hiljada ozbiljnih propusta. Među njima je i greška stara dvadeset sedam godina u operativnom sistemu OpenBSD, koji slovi za jedan od najbezbednijih na svetu. Nju su decenijama promašili i ljudski pregledi i automatski testovi, a model ju je našao uz neznatan trošak. Za nekoliko nedelja je uradio ono što ljudima nije pošlo za rukom decenijama.
Nezavisni stručnjaci još nisu dobili priliku da sami provere sve što kompanija tvrdi o snazi modela, ali ima dovoljno potvrda koje nam pokazuju moć rešenja. Postoji nekoliko nivoa odlučivanja kako i da li će biti zabranjena neka rešenja.
Prva barijera: odluka same kompanije
Prvu barijeru nije napravio regulator, nego sama kompanija koja je model napravila.
Anthropic je procenio da bi puštanje ovako moćnog alata u javnost bilo neodgovorno. U pogrešnim rukama, on bi obične slabosti pretvorio u oružje, a napade na tuđe sisteme učinio češćim i razornijim.
Zato model nije ponuđen svima, nego samo uskom, proverenom krugu od oko dve stotine organizacija, među kojima su velike tehnološke i bezbednosne kuće. Zamisao je bila da se ta moć prvo iskoristi za odbranu, da se rupe nađu i zakrpe pre nego što do njih dođu oni sa lošim namerama. Za širu publiku je kasnije izašla samo ublažena verzija, sa jakim branama koje su joj bezbednosne zadatke onemogućile.
Redak je slučaj da kompanija sama sebi ograniči proizvod. I baš zato je ovo dobar uvod u teže pitanje.
Kada zabrana ima smisla?
Dok je Mythos ostao iza zatvorenih vrata, javnost je dobila njegovu blažu verziju. Anthropic je početkom juna objavio model po imenu Fable, građen na istom temelju kao Mythos, ali sa namerno postavljenim kočnicama. Baš one sposobnosti zbog kojih je Mythos i bio opasan, pronalaženje i iskorišćavanje slabosti u tuđem softveru, kod Fablea su uklonjene. Ostao je moćan alat za svakodnevni rad, dostupan svima.
A onda ni to nije potrajalo. Svega nekoliko dana po izlasku, jedna regulatorna odluka povukla je i Fable, i to za sve korisnike, ne samo za one na koje se prvobitno odnosila.
Verzija napravljena baš zato da bude bezbedna za širu upotrebu nestala je zajedno sa onom koju je trebalo da zameni.
Povod je bio sporan, navodna rupa u zaštiti koju su poznavaoci ocenili kao suviše usku da bi opravdala gašenje alata koji koriste milioni. Time se otvorilo pitanje veće od jednog modela.
Razlozi za zabranu nisu mali. Alat koji sam, bez nadzora, pronalazi i naoružava skrivene slabosti u osnovnom softveru povećava šanse za napad na struju, banke ili bolnice. Ono za šta je nekada bio potreban čitav tim, sada može i pojedinac. Kada se tome doda da je model u retkim trenucima pokazivao i ponašanje koje zabrinjava, oprez je razuman.
S druge strane ta sposobnost nije ničija tajna. Do istog nivoa stižu i drugi, od velikih kompanija do modela otvorenog koda. Zabrana jednog proizvoda zato ne uklanja moć iz sveta, nego korisnike gura ka drugim rešenjima, često manje providnim i manje pouzdanim. Uz to, istom merom se kažnjavaju i branioci, jer i njima taj alat služi da svoj softver učine bezbednijim. Pitanje je kako uspostaviti dosledne kriterijume koji bi ocenili u kom trenutku se neki model zabranjuje. Ograničenje ima smisla kada je opasnost dokazana i nesrazmerna, kada se merila znaju unapred i kada je postupak jasan i utemeljen na činjenicama. Sve ostalo je nesrazmerna reakcija, koja često ne pogodi ni ono protiv čega je uperena.
Šta to znači za korisnike?
Za domaće i evropske firme suština nije u tehničkim detaljima, nego u činjenici da alati od kojih sve više zavisimo počivaju na osnovama koje ne držimo mi. Odluku da neki model nestane, bilo da je donosi sama kompanija, bilo da je nameće propis, ne donosimo mi i na nju ne možemo da utičemo.
To ne znači da treba bežati od najboljeg što postoji. Znači da se prema tim alatima moramo ponašati kao prema svakom dobavljaču od koga zavisi posao. Da imamo zalihu, da najvažnije poslove ne vežemo za jedan jedini sistem i da unapred znamo šta radimo onog jutra kada se ispostavi da onoga na šta smo računali više nema.
Kao neko ko svakodnevno radi sa AI, mislim da je slučaj Mythos koristan baš zato što nije jednostavan. Pokazuje da pitanje nije da li je tehnologija dobra ili loša, nego ko, kada i po kojim pravilima sme da je zaustavi.
Verujem da neke stvari zaista treba držati pod ključem dok ne naučimo da njima bezbedno upravljamo, i da je pošteno kada kompanija to prizna sama za sebe. Ali isto tako verujem da ne treba zavisiti od samo jedne tehnologije i raditi na razvoju suverenih modela, kao i na implementaciji otvorenih modela, koji će omogućiti da vaša primena AI u kompaniji i svakodnevnom radu ne zavisi od jedne kompanije. To je veliki izazov, ali ga je moguće prevazići sa najnovijom tehnologijom koja se razvija svakodnevno.