- Direktori OpenAI i Anthropica traže usporavanje razvoja AI modela, uz spoljne evaluatore i zajednička bezbednosna pravila.
- U Kongresu se istovremeno guraju predlozi za zabranu superinteligencije i obavezno gašenje sistema, dok većina birača podržava takvu meru.
- Rasprava dolazi uoči izlaska OpenAI i Anthropica na berzu, pa kritičari upozoravaju na protivrečnost između upozorenja o riziku i planova za rast.
U Americi se ovih dana vodi rasprava na najvišem nivou industrije i politike.
Direktori tri najveće AI kompanije javno traže da se razvoj njihovih sopstvenih modela uspori, senatori predlažu zabranu superinteligencije, a Kongres se poziva da prekine pauzu i pokrene raspravu nao vu temu.
Ovo se sve dešava u trenutku kad se OpenAI i Anthropic spremaju za izlazak na berzu, sa procenama vrednosti koje se približavaju bilionu dolara.
Esej direktora Anthropica koji je pokrenuo raspravu?
Dario Amodei, direktor Anthropica, objavio je 12. septembra dugačak esej u kome traži da industrija „drži tempo“ razvoja, odnosno da uspori napredovanje sposobnosti modela, i to je izneo kroz tri predloga. Nezavisne timove koji bi sedeli unutar kompanija, sa pristupom kakav imaju zaposleni, i koji bi javno objavljivali šta su našli. Dogovor među kompanijama o zajedničkim granicama, za šta traži od Vašingtona izuzeće od antimonopolskih pravila. I na kraju, međunarodnu koordinaciju, koja bi vremenom uključila i Peking.
Kao razlog navodi napade koje su AI agenti ove godine izveli sami, uključujući proboj na platformu Hugging Face o kome sam pisao, i procenu da bi rojevi agenata za šest do dvanaest meseci mogli da naprave štetu od stotina milijardi dolara.
Sem Altman, direktor OpenAI, odgovorio je već sutradan da se slaže, da će i njegova kompanija pustiti spoljne timove koji vrše ocenjivanje da uđu u kompaniju i da će velike kompanije uskoro objaviti zajednički dogovor o bezbednosti i tempu. I Ilon Mask se složio sa njima. Tri dana ranije jedan istraživač Anthropica dao je otkaz uz javnu poruku da obe kompanije „kockaju ljudskim životima“, i na to je reagovalo više od dvadeset članova Kongresa. U julu je više od hiljadu zaposlenih u AI laboratorijama tražilo neki mehanizam za usporavanje.
AI je postao glavna politička tema
Senator Berni Sanders najavio je zakon koji bi trajno zabranio razvoj superinteligencije i zaustavio razvoj naprednih modela dok savezni regulator ne donese pravila, sa kaznama do dvadeset godina zatvora za pojedince i gašenjem firme za kompanije.
Ro Kana traži zabranu sistema koji sami sebe unapređuju i krivičnu odgovornost direktora. Već od jula u Predstavničkom domu stoje dva blaža predloga, jedan koji od proizvođača traži prekidač za gašenje modela i daje Ministarstvu unutrašnje bezbednosti pravo da privremeno obustavi sistem, i drugi koji uvodi nezavisne revizije i prijavljivanje incidenata. Četvoro demokrata zatražilo je 11. septembra da se Kongres vrati sa pauze i usvoji ovaj predlog.
Predsednik Predstavničkog doma Majk Džonson pristaje na razgovore sa direktorima kompanija, ali odbija svaki moratorijum, sa obrazloženjem da bi zastoj koristio Kini.
Tramp je na pitanje o riziku odgovorio da će „sve biti u redu“. Anketa iz jula pokazuje da 86 odsto američkih birača, iz obe stranke, podržava obavezu da napredni sistemi mogu da se ugase.
Podizanje političke debate pred izlazak na berzu
OpenAI je do pre mesec dana pripremao izlazak na berzu vredan oko bilion dolara, po nekim najavama već ove jeseni. Altman je sada rekao da 2026. nije trenutak za to i da će kompanija na berzu najranije 2027, jer bi bilo „nepromišljeno“ ići javno dok se rešavaju pitanja bezbednosti. Anthropic nastavlja sa svojim planovima, u junu je poverljivo predao dokumentaciju regulatoru, u maju je prikupio 65 milijardi dolara uz procenu od oko 965 milijardi, sa godišnjim prihodom koji je prešao 47 milijardi, i planira da marketing prema investitorima krene sredinom oktobra, a listiranje pre novembarskih izbora. Doduše, to znači da ista kompanija koja traži usporavanje razvoja istovremeno ubeđuje investitore da će rasti brže od svih. Tu protivrečnost su odmah primetili i kritičari, koji traže da se i taj izlazak odloži ako je poruka o riziku ozbiljna.
Nije prvi put da dobijamo upozorenja o zaustavljanju AI
Slična priča već je bila 2023. godine, kad je više od hiljadu ljudi, među njima i Mask, potpisalo pismo sa zahtevom da se na šest meseci zaustavi obučavanje modela jačih od tadašnjeg GPT-4. Niko nije stao, a Mask je za to vreme osnovao sopstvenu AI kompaniju. Prošle jeseni grupa naučnika predvođena Jošuom Bendžiom tražila je zabranu rada na superinteligenciji dok ne bude jasno da se može kontrolisati, i ni to nije imalo posledice.
Razlika u odnosu na raniji period jeste što zahtev sada dolazi od samih kompanija, što postoje konkretni incidenti u kojima su modeli sami izašli iz kontrole, i što u Kongresu leže gotovi zakoni. Iz iskustva sa ranijim talasima, mislim da moratorijum ni ovog puta neće proći, ali da će spoljni ocenjivači i obaveza prijavljivanja incidenata verovatno postati standard, jer na njih pristaju i kompanije.
Gde je tu Evropa?
Iz Brisela se ova rasprava gleda sa izvesnom nelagodom, jer Amodeijev esej Evropu ne pominje nijednom, a dobar deo onoga što on traži u Uniji već važi. Akt o veštačkoj inteligenciji od avgusta prošle godine obavezuje proizvođače najvećih modela da rade dokumentirano testiranje napada, da procenjuju sistemske rizike i da incidente odmah prijavljuju Kancelariji za veštačku inteligenciju. Evropska agencija za sajber bezbednost već spolja ocenjuje i Anthropicov Mythos i OpenAI-jevu Astru.
Hena Virkunen, komesarka za tehnologiju, podsetila je ove nedelje da evropski zakon od kompanija traži i procenu rizika od gubitka kontrole, što nigde drugde nije obavezno. Sa druge strane, Unija je u julu, kroz paket izmena o kome sam takođe pisao, odložila najteži deo Akta za visokorizične sisteme, upravo zato što je procenila da su obaveze preteške. Evropa dakle ima pravila koja Amerika tek traži, a istovremeno ih ublažava zbog konkurentnosti.
U Srbiji je u toku izrada Zakona o veštačkoj inteligenciji, i ova rasprava će verovatno uticati i na to koliko će domaći zakon ići u širinu.
Veštačka inteligencija je za nekoliko nedelja postala tema kojom se bave predsednik Amerike, Kongres, regulatori na dva kontinenta i tržište kapitala, a ne samo inženjeri i investitori. Ko sme da razvija najjače modele, ko ih proverava, ko snosi odgovornost kad sistem sam izađe iz kontrole i da li se o tome pregovara sa Kinom kao o nuklearnom oružju, to su sada pitanja unutrašnje politike i međudržavnih odnosa.
Za male zemlje to znači da će pravila pod kojima se tehnologija koristi sve više određivati tuđe vlade i tuđi zakoni, a prostor za sopstvene odluke ostaje tamo gde postoje sopstvene sposobnosti, ljudi i infrastruktura.