Google je navodno uklonio deo svojih AI pregleda (AI Overviews) za pitanja vezana za zdravlje, nakon što je istraga pokazala da neki od tih sažetaka sadrže netačne ili obmanjujuće informacije.
AI pregledi su sažeci koje generiše veštačka inteligencija, a koji se prikazuju na vrhu rezultata pretrage i pružaju informacije u vezi sa zadatom temom ili pitanjem.
Istraga lista The Guardian otkrila je da su neki od ovih sažetaka davali netačne podatke o zdravlju, što bi moglo dovesti do rizika po korisnike.
Na primer, AI pregledi često su nudili velike količine brojki bez odgovarajućeg konteksta, odgovarajući na pitanja poput „Koji je normalan opseg parametara krvi za jetru?" ili „Koji je normalan opseg testova funkcije jetre?" Takođe, odgovori nisu uzimali u obzir razlike u zavisnosti od nacionalnosti, pola, etničke pripadnosti ili starosti.
Kod obe vrste pitanja, Google je u rezultatima pretrage prikazivao featured snippet - odlomak izdvojen sa najrelevantnijeg sajta za zadato pitanje. Na primer, prikazivani su opisi normalnih nivoa različitih supstanci u jetri, kao što su alanin transaminaza (ALT), koja reguliše proizvodnju energije, aspartat aminotransferaza (AST), koja detektuje oštećene krvne ćelije, i alkalna fosfataza (ALP), koja pomaže u razgradnji proteina.
Guardian je otkrio da je Google brojeve uzeo sa sajta Max Healthcare, indijske privatne bolničke mreže u Nju Delhiju. Napomena: featured snippets se razlikuju od AI pregleda jer tekst u njima nije generisala veštačka inteligencija.
Istraga je pokazala i da varijacije pitanja, kao što su "lft reference range" ili "lft test reference range", i dalje generišu AI sažetke. Testovi funkcije jetre su analize krvi koje mere proteine i enzime kako bi se proverilo kako jetra funkcioniše.
Guardian je takođe naveo da je Google ljudima sa pankreasnim karcinomom preporučio izbegavanje hrane sa visokim sadržajem masti, što su stručnjaci ocenili kao lošu preporuku, jer bi mogla povećati rizik od smrtnog ishoda kod pacijenata.
Ova istraga dolazi u trenutku kada stručnjaci upozoravaju na problem takozvana "halucinacija" AI chatbota, odnosno kada oni izmišljaju netačne odgovore jer nemaju prave informacije.
Euronews Next je pokušao da dobije komentar od Google-a da li je kompanija uklonila AI preglede za neka zdravstvena pitanja, ali nije dobio odmah odgovor.
Google je tokom vikenda objavio da uvodi AI preglede i u svoju email uslugu Gmail, što omogućava korisnicima da postavljaju pitanja i dobijaju odgovore o svojim email porukama, bez pretraživanja pomoću ključnih reči.
(M.A./EUpravo zato/euronews.com)