Přehledy Google AI vystavují lidi riziku újmy zavádějícími zdravotními radami
2. 1. 2026
čas čtení
2 minuty
Lidé jsou vystaveni riziku újmy kvůli nepravdivým a zavádějícím zdravotním informacím v přehledech umělé inteligence společnosti Google
Firma Google uvedla, že její přehledy AI, které využívají generativní AI k poskytování přehledů základních informací o daném tématu nebo otázce, jsou „užitečné“ a „spolehlivé“.
Některé souhrny, které se zobrazují v horní části výsledků vyhledávání, však obsahovaly nepřesné zdravotní informace a vystavovaly lidi riziku újmy.
V jednom případě, který odborníci popsali jako „opravdu nebezpečný“, Google nesprávně doporučil lidem s rakovinou slinivky břišní, aby se vyhýbali potravinám s vysokým obsahem tuku. Odborníci uvedli, že to je přesný opak toho, co by se mělo doporučovat, a může to zvýšit riziko úmrtí pacientů na tuto nemoc.
V dalším „alarmujícím“ příkladu společnost poskytla nepravdivé informace o důležitých testech jaterních funkcí, což mohlo vést k tomu, že lidé s vážným onemocněním jater se mylně domnívali, že jsou zdraví.
Vyhledávání Google týkající se testů na rakovinu u žen také poskytovalo „zcela nesprávné“ informace, které podle odborníků mohly vést k tomu, že lidé ignorovali skutečné příznaky.
Tyto informace přicházejí v době rostoucího znepokojení, že data umělé inteligence mohou zmást spotřebitele, kteří mohou předpokládat, že jsou spolehlivá. V listopadu loňského roku studie zjistila, že chatboty AI na různých platformách poskytovaly nepřesné finanční rady, přičemž podobné obavy byly vzneseny i ohledně shrnutí zpravodajských článků.
Přehledy umělé inteligence Google poskytovaly zavádějící výsledky při vyhledávání informací o duševních onemocněních. „To je pro nás jako charitativní organizaci velkým problémem,“ řekl Stephen Buckley, vedoucí informačního oddělení v Mind.
Google uvedl, že drtivá většina jeho AI přehledů je faktická a užitečná a že neustále zlepšuje jejich kvalitu. Přesnost AI přehledů je srovnatelná s ostatními vyhledávacími funkcemi, jako jsou například doporučené úryvky, které existují již více než deset let, dodal.
Zdroj v angličtině ZDE
232
Diskuse