Razvoj veštačke inteligencije ubrzava, ali pitanje više nije samo ko će napraviti moćniji sistem, već i koliko brzo tehnologija sme da napreduje, a da bezbednosni mehanizmi mogu da je prate. Stručnjaci upozoravaju da razvoj ne treba zaustavljati, ali da čovek mora da zadrži kontrolu.
Marijana Pečić, glavna i odgovorna urednica PC Press-a, smatra da bezbednosni rizici moraju biti među glavnim prioritetima.
"Postoje opasnosti, postoje bezbednosni rizici i to bi trebalo da bude glavni prioritet svih nas: kako da najbezbednije napravimo ceo taj sistem da funkcioniše i da bude od koristi čoveku“, ističe Pečić.
Kada AI više ne daje samo odgovor
Profesor Univerziteta Singidunum i predstavnik Srpske asocijacije za veštačku inteligenciju Nebojša Bačanin-Džakula upozorava da problem nastaje ukoliko sposobnosti AI sistema rastu brže od mogućnosti ljudi da ih kontrolišu.
"Inovaciju, a veštačka inteligencija je definitivno generator velikog broja inovacija, ne sme da se koči. Ali treba da budemo obazrivi da mehanizmi zaštite i bezbednog korišćenja veštačke inteligencije rastu brže nego sama sposobnost veštačke inteligencije“, kaže Bačanin-Džakula.
Posebno su značajni sistemi koji, osim generisanja odgovora, mogu samostalno da preduzimaju akcije. U kontrolisanim eksperimentima istraživači su proveravali koliko daleko AI agenti mogu da odu kada im se smanje zaštitni mehanizmi.
"To je bio kontrolisani eksperiment, pod kontrolom čoveka, gde su videli dokle sistemi mogu da idu", objašnjava profesor.
Prema njegovim rečima, upravo je prelazak sa sistema koji samo odgovaraju na pitanja na sisteme koji mogu da deluju u realnom svetu jedna od ključnih promena.
"Sad taj sistem ne daje samo odgovor, već sprovodi određenu akciju koja može imati ozbiljne implikacije u realnom svetu. I to je njih uplašilo."
Zato predlaže strože testiranje pre nego što AI sistemi budu pušteni u široku upotrebu, uključujući nezavisne evaluatore i testiranje u izolovanom "sandbox" okruženju.
Može li svet zajedno da uspori?
Dodatni problem predstavlja globalna trka u razvoju veštačke inteligencije, posebno između SAD i Kine. Pečić upozorava da bi jednostrano usporavanje moglo da dovede do neravnoteže ako druge zemlje nastave istim tempom.
"Bilo bi najbolje kada bismo mogli taj neki međunarodni sistem da napravimo, neki globalni dogovor, da se prosto svi usaglasimo", kaže Pečić.
Šta to znači za Srbiju?
Bačanin-Džakula smatra da Srbija treba istovremeno da podstiče razvoj tehnologije i jača mehanizme bezbednosti. Podseća da je Srbija još 2019. godine dobila strategiju razvoja veštačke inteligencije, a da sada ima strategiju za period od 2025. do 2030. godine.
Za njega ključno pitanje nije da li će se čovek i AI jednog dana naći na suprotnim stranama, već koliko će ljudi biti sposobni da kontrolišu tehnologiju.
"Mnogi ljudi misle da je ovo borba između čoveka i veštačke inteligencije. Ja mislim da je ovo samo borba između stepena kontrole koji dozvoljavamo i autonomije veštačkoj inteligenciji i naših mogućnosti da se zaštitimo", zaključuje Bačanin-Džakula.
A osnovno pravilo, prema njegovim rečima, mora da ostane jednostavno: čovek u svakom trenutku mora imati mogućnost da kaže stop.
(M.A./EUpravo zato/rts.rs)