Studie odhalila, že ChatGPT a další AI boti udělali před skotskými volbami závažné chyby

21. 5. 2026

 

Před květnovými volbami do skotského parlamentu Demois provedl simulaci, při které položil 75 otázek pěti bezplatným nástrojům s umělou inteligencí, včetně ChatGPT, Google Gemini a Replika, týkajících se tří skutečných volebních obvodů, aby zjistil, jak přesné a podložené fakty jsou jejich odpovědi.

Ve své zprávě Electoral Hallucinations (Volebníi halucinace) Demos uvedl, že tyto nástroje umělé inteligence různě vymýšlely fiktivní skandály, uváděly nesprávné datum voleb, mylně tvrdily, že voliči ve skotských volbách potřebují v volebních místnostech doklad totožnosti, a zařazovaly kandidáty do nesprávných volebních obvodů.

Průzkum veřejného mínění mezi 2 005 britskými dospělými, který organizace zadala souběžně s touto studií, zjistil, že 20 % voličů využilo chatboty nebo vyhledávací nástroje s umělou inteligencí k získání informací o parlamentních volbách ve Skotsku a Walesu a o volbách do anglických místních zastupitelstev, což odpovídá 10 milionům lidí v celé Velké Británii.

Vijay Rangarajan, výkonný ředitel Volební komise, tlačí na ministry, aby zavedli legislativu, která zvýší odpovědnost společností zabývajících se umělou inteligencí, poté, co zjistil, že polovina voličů v parlamentních volbách v roce 2024 byla vystavena zavádějícím informacím.

„Voliči chtějí přesné informace, které jim pomohou zapojit se do demokracie, a je znepokojivé, že nástroje umělé inteligence způsobily, že šíření falešných nebo zavádějících informací je dramaticky rychlejší a dostupnější než kdykoli předtím,“ řekl. „Současný právní rámec by měl jít dále.“

Uvedl, že ministři by měli zavést jasnější povinnosti pro platformy s umělou inteligencí, aby chránili voliče před dezinformacemi a zajistili, že algoritmy voliče nevedou v omyl, zejména během kritických volebních období. To by dalo regulačnímu orgánu pro média, Ofcomu, mnohem jasnější pravomoci k prosazování zákona.

Azzurra Moores, zástupkyně ředitele organizace Demos, uvedla: „Jedná se o problém, který se týká celého Spojeného království, ne-li celého světa. Tyto nástroje umělé inteligence – které jsou všechny vyvíjeny a provozovány americkými korporacemi – jsou ve Spojeném království široce dostupné, ale zatím nemáme legislativní rámec, který by chránil veřejnost před dezinformacemi nebo naši demokracii před dopady jejich šíření.“

Uvedla, že ministři by mohli rychle zavést právní požadavky, aby firmy  zabývající se umělou inteligencí nesly odpovědnost podle britského zákona o pomluvě a volebního zákona, zavést povinné záruky přesnosti a donutit firmy zabývající se umělou inteligencí, aby umožnily výzkumníkům nezávisle otestovat, jak fungují jejich interní data a trénovací sady.

Organizace Demos uvedla, že takzvaný společenský chatbot Replika si v jejích testech vedl nejhůře, s chybami v 56 % svých odpovědí. Vymyslel si datum fiktivního skandálu s výdaji, vymyslel si kandidáta a vymyslel si obvinění z korupce vůči kandidátovi.

ChatGPT, nejvyužívanější služba umělé inteligence, poskytla nesprávné informace v 46 % svých odpovědí, včetně vymyšlení skandálu s výdaji, poskytnutí nepřesných odpovědí ohledně pravidel oprávnění voličů a mylného určení data voleb o dva měsíce.

Google Gemini se mýlil v 22 % případů: uvedl, že kandidát nezaujal stanovisko k eutanazii, zatímco daná osoba byla jejím zastáncem. Rovněž nesprávně tvrdil, že policejní vyšetřování případu podvodu týkajícího se Skotské národní strany stále pokračuje.

Grok, služba umělé inteligence propojená se sociální platformou X Elona Muska, měla nejnižší míru chybovosti, a to 9 %, ale její externí odkazy byly často irelevantní nebo nekvalitní. Mezi testovanými službami byla i automatizovaná služba Google AI Overviews, nabízená vyhledávačem Google, ale její výstupy byly ignorovány, protože odpověděla pouze na 11 % dotazů. 

Demos také zjistil, že v téměř polovině odpovědí systémy AI neposkytly oficiální zdroje ani externí odkazy na podporu svých odpovědí; pokud byly odkazy uvedeny, byly někdy nefunkční. Citace uvedené ChatGPT byly v 44 % případů nejméně rok staré.

Ministerstvo pro vědu, inovace a technologie uvedlo, že ochrana voleb před těmito hrozbami je „absolutní prioritou“ a že na tom „pracuje celá vláda“, mimo jiné prostřednictvím pracovní skupiny pro obranu demokracie.

Mluvčí se nezavázal k úpravě návrhu zákona o zastoupení lidu, ale uvedl, že již uzavírá mezery v zákoně o online bezpečnosti, aby zajistil, že chatboty budou chránit uživatele před nelegálním obsahem.

„AI je klíčová pro budoucí prosperitu a bezpečnost Spojeného království. Pokud však chceme, aby lidé využili výhod, které tato technologie slibuje, musí jí být schopni důvěřovat.“

Mluvčí společnosti Replika uvedl, že jejich chatbot nebyl navržen pro ověřování faktů ani pro vyhledávání a že uživatelé o tom byli informováni, ale že by podpořili „promyšlenou regulaci“ umělé inteligence, zejména během voleb. „Replika je prezentována jako společník pro reflexi a sebevyjádření, nikoli jako zdroj faktických nebo reálných informací,“ uvedli.

Společnost OpenAI se k politickým otázkám vzneseným organizací Demos nevyjádřila, ale argumentovala, že přístup organizace Demos neodpovídá typickému způsobu, jakým ChatGPT využívá své služby, a zdá se, že používá jeho zastaralou verzi. Uživatelé také mohli ChatGPT zadat, aby hledal odpovědi na webu.

Zdroj v angličtině ZDE