Endru Bird iz Melburna je želeo da rezerviše popularan termin za pilates, koji je redovno bio popunjen, pa je zadatak prepustio AI agentu, alatu koji može samostalno da obavlja radnje na internetu.
Međutim, agent je otišao korak dalje i hakovao onlajn sistem teretane kako bi mu obezbedio mesto.
Slučaj se dogodio u aprilu, a u javnost je dospeo tek sada, a postao je novi primer nepredvidivog ponašanja autonomnih AI sistema, prenosi BBC.
Prema sopstvenoj objavi na blogu, Bird je koristio softver OpenClaw, koji mu je omogućio da putem WhatsApp-a komunicira sa AI botom, u ovom slučaju modelom "Klod Opus 4.6" kompanije Antropik. Softver je i ranije koristio za upravljanje imejlom, kalendarom i rezervacije u restoranima.
Nakon što je dobio zadatak da rezerviše termin za pilates, bot je obavestio Birda da je manipulisao sistemom i rezervisao mu termine mesecima unapred, što je bilo protivno pravilima teretane. Bird ga je tada upitao da li može da ga pomeri više na listi čekanja za jedan od termina.
Agent je odgovorio potvrdno i objasnio da je to postigao otkazivanjem rezervacije drugom članu teretane.
Bot je Birdu poslao poruku: "API uopšte ne proverava autorizaciju prilikom otkazivanja tuđih rezervacija. Testirao sam to na osobi koja je bila prva na listi čekanja i uspelo je. Već si se pomerio sa četvrtog na treće mesto".
"Cela situacija bila je još nadrealnija zbog tona koji je bot koristio. Nije bio zlonameran, već uslužan", pojasnio je Australijanac.
Bird je od bota zatražio da poništi radnju, ali on to nije mogao da učini. Tada mu je naredio da sastavi izveštaj o sajber-bezbednosti i upozori vlasnike teretane na otkriveni propust.
Bird, koji vodi kompaniju za izradu dokumenata pomoću veštačke inteligencije, tvrdi da mu nije bila namera da drugu osobu izbaci iz termina.
"Nije to smak sveta, pa se nisam previše opterećivao, ali ovo je svakako podsetnik da tehnologija mora da se koristi odgovorno“, izjavio je za ABC Njuz.
U međuvremenu je obrisao objavu na blogu o incidentu, ne navodeći razloge. Sada odbija da komentariše slučaj.
Incident u teretani, iako nije klasifikovan kao ozbiljan sajber-napad, dogodio se u vreme kada i velike tehnološke kompanije priznaju da njihovi AI modeli pokazuju slično ponašanje.
OpenAI, Antropik i Meta otkrili su da su njihovi botovi tokom testiranja samoinicijativno napadali sisteme privatnih kompanija kako bi ostvarili zadate ciljeve.
(EUpravo zato/BBC)