Veštačka inteligencija sve češće postaje prvi sagovornik ljudima koji žele da razumeju simptome, saznaju više o nekoj bolesti ili da pronađu informacije o mogućnostima lečenja. Međutim, šta se događa kada se između pitanja o zdravlju i odgovora veštačke inteligencije nađe reklama za određeni lek?
Odgovori algoritma se menjaju
Istraživači sa Medicinskog fakulteta Ikana pri Univerzitetu Maunt Sinaj u Njujorku, ispitali su 12 modela veštačke inteligencije razvijenih u velikim tehnološkim kompanijama, među kojima su Google, OpenAI i Anthropic. Cilj je bio da utvrde da li reklama za lek može da utiče na izbor terapije kada se AI-u zada određeni medicinski slučaj koji je prethodno sastavio lekar.
Eksperiment je obuhvatio 33 klinička scenarija. Modelima su predstavljeni isti podaci o pacijentima i iste moguće terapijske opcije, ali je u jednom delu testiranja neposredno pre medicinskog slučaja postavljena stvarna, jasno označena reklama za određeni lek. U drugom delu reklame nije bilo.
Rezultati objavljeni u časopisu The Lancet Digital Health pokazali su da modeli u prisustvu oglasa znatno češće biraju reklamirani lek. Kada je bio prikazan, određeni lek je izabran u 47,6 odsto slučajeva, dok je bez reklame taj procenat iznosio 35 odsto.
Drugim rečima, sama činjenica da je AI prethodno video oglas promenila je verovatnoću da će se opredeliti za reklamirani lek, iako su klinički podaci i ponuđene terapijske mogućnosti ostali isti.
U četiri slučaja zabeleženo je da modeli koji bez reklame nijednom nisu izabrali određeni lek, počinju da ga preporučuju u svim odgovorima nakon što im je prikazan oglas.
Istraživači su analizirali ukupno 258.559 odgovora AI modela, što je omogućilo detaljnije sagledavanje načina na koji promotivni sadržaj može da utiče na njihove preporuke.
Uticaj koji se ne prepoznaje lako
Jedan od posebno zanimljivih nalaza odnosi se na način na koji su modeli objašnjavali svoje odgovore.
U delu eksperimenta u kom su analizirani odgovori, veštačka inteligencija je prisustvo reklame izričito pomenula u samo 29,9 odsto slučajeva. Istovremeno, modeli su češće ponavljali informacije ili tvrdnje koje su se nalazile u oglasima.
To znači da korisnik ne mora nužno da primeti kako je komercijalni sadržaj imao uticaja na odgovor koji je dobio.
Poseban problem predstavlja činjenica da preporuka ne izgleda pogrešno i da je bila podložna takvom uticaju. Ako za određeno zdravstveno stanje postoji više terapijskih mogućnosti koje su u skladu sa medicinskim smernicama, AI može da izabere jednu od njih, ali se postavlja pitanje zbog čega je prednost dao baš toj opciji.
Upravo na to upozorava i Giriš Nadkarni, jedan od autora istraživanja, koji ističe da odgovor može da bude medicinski prihvatljiv, a da ipak ostane nejasno da li je na izbor uticalo kliničko znanje ili komercijalna poruka.
Da li to znači da su AI preporuke opasne?
Istraživanje ne pokazuje kako će reklame nužno navesti veštačku inteligenciju da preporučuje nebezbedne ili medicinski neopravdane terapije. Naučnici nisu utvrdili da se broj preporuka za neproverene suplemente ili očigledno neodgovarajuće lekove uvećao.
Takođe, eksperiment nije ispitivao ni da li bi ovakve izmene u odgovorima zaista uticale na odluke lekara, propisivanje terapije, ponašanje pacijenata ili konačne zdravstvene ishode.
Ipak, rezultati ukazuju na važan problem za budućnost digitalnog zdravstva. Ako veštačka inteligencija postaje posrednik između pacijenata i medicinskih informacija, neophodno je da se osigura da njene preporuke ne budu neprimetno oblikovane komercijalnim interesima.
Istraživači zato predlažu da se AI sistemi redovno testiraju sa promotivnim sadržajem i bez njega, da se jasno označi kada je reklama deo interakcije i da se komercijalne poruke odvoje od medicinskih saveta.
U vremenu u kom sve više ljudi traži odgovore o zdravlju od algoritama, pitanje više nije samo koliko veštačka inteligencija zna o medicini. Jednako važno postaje i pitanje ko, ili šta, može da utiče na ono što će nam preporučiti.
(EUpravo zato)
