- Italija je uvela zatvorske kazne za ozbiljne propuste u razvoju i korišćenju visokorizičnih AI sistema, uz posebna pravila za naknadu štete i dokazivanje.
- Sud može da naloži dostavljanje tehničke dokumentacije i podataka o radu sistema, a oštećenima je olakšan put do odštete i od osiguravača.
- Policija sme da koristi AI samo uz proveru obučenog službenika, dok je zabranjeno neselektivno prikupljanje baza za prepoznavanje lica.
Italija je krajem septembra počela da primenjuje nova pravila o odgovornosti za štetu koju može da izazove veštačka inteligencija.
Za ozbiljne propuste u razvoju i korišćenju visokorizičnih AI sistema predviđene su i zatvorske kazne. U Italiji su posebno uređeni sudski postupci za naknadu štete, kao i upotreba ovih tehnologija u radu policije.
Prema novim pravilima, onome ko pri projektovanju, obučavanju, proizvodnji ili stavljanju na tržište visokorizičnog AI sistema ne primeni propisane mere bezbednosti ili ne obezbedi ljudski nadzor, preti od jedne do pet godina zatvora ako time ugrozi nečiji život ili bezbednost. Takođe, ako ugrozi bezbednost države, kazna je od dve do osam godina.
Krivični zakonik predviđa i kazne za nedozvoljene izmene rada visokorizičnih sistema. Ako takva izmena stvori opasnost po život ili bezbednost ljudi, zaprećena je kazna od dve do šest godina zatvora, odnosno od tri do deset godina kada je ugrožena bezbednost države. Za propuste učinjene iz grubog nehata, u slučajevima na koje se ta odredba odnosi, kazne su blaže.
Sam zakon svakako priznaje da nije svaka greška veštačke inteligencije krivično delo, niti se ove kazne odnose na svaki AI alat. Reč je o tačno određenim povredama bezbednosnih obaveza kod visokorizičnih sistema, i to kada zbog tih propusta nastane ozbiljna opasnost. Među visokorizičnim primenama koje prepoznaje evropski AI Act nalaze se, pod određenim uslovima, sistemi za izbor zaposlenih i upravljanje kritičnom infrastrukturom.
Odgovornost nije ograničena na one koji razvijaju i prodaju tehnologiju. Propis predviđa kazne i za profesionalnog korisnika visokorizičnog sistema koji namerno izostavi obavezan ljudski nadzor, ako zbog toga ugrozi život ili bezbednost ljudi, odnosno bezbednost države. Za pravna lica predviđene su i novčane kazne i određene mere zabrane.
Građanima lakši put do dobijanja odštete
Za građane je možda još važniji deo propisa koji uređuje šta se dešava kada AI sistem nekome nanese štetu. U takvim sporovima je najteže doći do podataka koji pokazuju kako je sistem radio, ko ga je nadzirao i da li su poštovana pravila bezbednosti.
Ti podaci obično su kod kompanije ili ustanove koja je sistem razvila ili koristi. Zato italijanski sud sada može da naloži dostavljanje evidencije o radu sistema, tehničke dokumentacije, podataka o upravljanju rizicima i informacija o ljudskom nadzoru. Oštećeni prethodno mora da učini verovatnim da njegov zahtev ima osnov i da postoji veza između rada sistema i štete na koju se poziva.
Sud, pritom, mora da vodi računa o zaštiti poslovnih tajni i poverljivih informacija. Ako tužena strana bez opravdanog razloga ne dostavi propisanu dokumentaciju, sud, nakon što razmotri i ostale dokaze, može da prihvati činjenice koje je naveo oštećeni.
U sporovima u kojima šteta potiče od povrede obaveza iz evropskog AI Act-a, pretpostavlja se da postoji veza između tog kršenja i nastale štete, osim ako tužena strana ne dokaže suprotno. To ne znači da će svaka tužba uspeti, ali bi oštećenima trebalo da olakša postupak u kojem su ključni tehnički podaci na drugoj strani.
Čak ni potvrda da je AI sistem usklađen sa evropskim pravilima ne oslobađa automatski odgovornosti. Građanin pod propisanim uslovima može da zahteva naknadu štete i neposredno od osiguravajuće kuće, do ugovorenog iznosa osiguranja. Pre tužbe može da zatraži podatke o osiguranju, na šta druga strana mora da odgovori u roku od 30 dana. Ako tuži kao potrošač, postupak može da pokrene i pred sudom u mestu svog prebivališta ili boravišta.
Biće zanimljivo videti kako će se ovo odnositi na ostatak Evrope. Evropska komisija je 2025. povukla predlog posebne direktive o odgovornosti za veštačku inteligenciju, jer nije bilo izgleda da se o njemu postigne dogovor. EU jeste usvojila novu direktivu o odgovornosti za proizvode sa nedostatkom, koja obuhvata i softver, uključujući AI sisteme. Međutim, rok za prenošenje te direktive u nacionalne propise ističe tek 9. decembra 2026. godine. Italija je u međuvremenu odlučila da posebnim pravilima uredi dokazivanje i odgovornost u sporovima koji se tiču veštačke inteligencije.
Stroža kontrola upotrebe AI u policiji
Ovi propisi se u značajnoj meri odnose i na rad policije. Kada se rezultati rada AI sistema koriste u postupcima koji mogu da utiču na prava građana, mora da ih proveri odgovarajuće obučen službenik. Provera mora da bude zabeležena, kako bi se kasnije moglo utvrditi ko je i na osnovu čega doneo odluku.
Posebno su uređeni sistemi za biometrijsku identifikaciju na daljinu u realnom vremenu, među kojima je i prepoznavanje lica. U krivičnim istragama njihova upotreba može da bude odobrena za potragu za određenim osobama, uključujući osumnjičene za teška krivična dela sa liste predviđene evropskim propisom. Sudsko odobrenje važi najduže 15 dana, uz mogućnost produženja kada su uslovi i dalje ispunjeni. Za hitne slučajeve predviđen je poseban postupak, uz naknadnu sudsku kontrolu.
Zabranjena je upotreba baza za prepoznavanje lica napravljenih neselektivnim prikupljanjem fotografija sa interneta ili snimaka nadzornih kamera. Podaci za poređenje u konkretnom postupku moraju da budu pribavljeni zakonito i ograničeni na ono što je potrebno za određenu istragu. Rezultati pribavljeni protivno propisanim pravilima ne mogu se koristiti, uz zakonom predviđene obaveze brisanja podataka.
Za policijske AI sisteme koji su već u upotrebi, u razvoju ili na testiranju predviđen je rok od godinu dana za usklađivanje sa određenim pravilima o njihovoj primeni.