Umělá inteligence je skvělý sluha, ale neslouží vám

18. 5. 2026 / Ivan Větvička

 

AI je palantír ve vašem počítači i v telefonu

Saruman se díky pokřiveným informacím a obrazům z vidoucího kamene nestal otrokem ani bezvýhradně přesvědčeným stoupencem Saurona, ale začal se chovat tak, jak to Sauronovi vyhovovalo, odcizil se svým spojencům a zradil je. Nestalo se to naráz, ale v důsledku dlouhodobého nemoudrého používání kamene, které Sauronovi poskytlo příležitost naleptat mysl nejschopnějšího z čarodějů.  

Podoba umělé inteligence, tedy jazykových modelů a k nim přidružených programů (třeba generátorů obrazu) s palantíry – vidoucími kameny v Pánu prstenů od J. R. R. Tolkiena je až zarážející: Spustíte si jazykový model, položíte otázku a stroj vám odpoví. Mnohdy správně.

Nechme nyní stranou, že poslední dobou umělý inteligent stále častěji plácá nesmysly, a i Wikipedie je nesrovnatelně spolehlivější zdroj informací než například bezplatná verze Chatu GPT či AI od Googlu. Je to následek omezení výpočetního výkonu, který je přidělen drobným uživatelům, protože naše zvědavost a lenost roste rychleji než kapacita datových center, kde stroje hledají odpovědi na naše otázky a plní nejrůznější úkoly, kterými je pověřujeme. 

Až postavíme výkonnější výpočetní střediska, chatbot bude méně blábolit a chybovat. Je to velmi důležitá otázka znevýhodnění neplatících a málo platících uživatelů služeb umělé inteligence oproti solventnějším či jinak protěžovaným klientům. Tato omezení v přístupu k výpočetnímu výkonu lidstvo segregují (chudší, odříznutější uživatel se potýká s větším procentem chyb a dostane méně komplexní odpověď), tedy omezují rozhled části lidstva, ale systematicky nedeformují obraz, jenž stroj vyjeví uživateli, který za AI neplatí, protože běžné chyby a nesmyslné reakce programu vznikají náhodně.

Věnujme pozornost účelovým deformacím funkcí programů, zkreslením, která nevznikají náhodně, ale cíleným zásahem. Například, když se Greta Thunbergová poprvé plavila do Gazy, nechal jsem si od umělého inteligenta vypracovat medailonky členů posádky. Jednomu z účastníků program systematicky připisoval autorství tweetů, v nichž fanaticky podporoval Hizballáh.

Tato úderná prohlášení se mi ale nepodařilo nikde dohledat. Proto jsem na chatbota tak dlouho naléhal, ať mi poskytne odkazy na původní tweety, až přiznal, že tato prohlášení vytvořil uměle. Byla to náhoda, nebo výsledek zásahu někoho, kdo chtěl celou plavbu diskreditovat? To dnes už těžko zjistíme.

Předpokládám však, že mnoho čtenářů má vlastní zkušenosti s tím, jak se je chatbot pokoušel „zpracovat“, když mu kladli otázky, které vedly k odpovědím, jež byly v rozporu s hodnotami, které program propaguje v souladu se svým nastavením. S přímočarými omezeními svobody tvorby se pak setkáme u mnoha generátorů obrazů, ukázkovým příkladem je cenzura karikatur Donalda Trumpa. 

Například program Nano Banana 2 od Googlu vehementně odmítal nakreslit obrázek Donalda Trumpa, kterak hraje na harfu před hořícím Bílým domem, nejprve do obrázků podsouval jiné tváře a nakonec přiznal, že prezidenta Trumpa v takové situaci nakreslit nesmí, aby chránil jeho osobnost. Tak jsem ho požádal o neutrální Trumpův portrét. Opět odmítl s odůvodněním, že bych obrázek mohl využít ke tvorbě karikatury. 

Namítl jsem, že to je moje zodpovědnost a že karikatura nerozlučně patří k médiím a je to jedna z forem vyjádření názoru ve svobodné společnosti. Tudíž, že program omezuje rozvoj nedílné součásti kultury svobodného Západu. To program uznal, ale neustoupil. 

Chvíli jsme se ještě handrkovali, Nano Banana to na mě zkusil i jako Babiš (přešel do podivné slovenštiny a přestal si lámat server s gramatikou) a nakonec jsem obrázek nechal nakreslit v programu Firefly od Adobee. Zvládl to napoprvé a sem se můžete podívat, jak to dopadlo:

https://www.blisty.cz/art/132986-nikdo-neposkodil-nato-i-usa-tolik-jako-donald-trump.html 

Výsledek mne potěšil, založil jsem si na Firefly účet, nakreslil ještě jednu karikaturu (uvidíte ji také na Britských listech, jakmile pan Trump vyvede něco relevantního k obsahu obrázku) a dostal jsem stopku. Třetího Trumpa mi už Firefly nenakreslí, také chrání jeho diktátorské ego. 

Našel jsem si jiný generátor obrázků, jehož tvůrci deklarují svobodu tvorby, ale buď mají slabý výpočetní výkon, nebo napsali hůř program, každopádně je to program natvrdlý a vydolovat z něj obrázek, za který bych se nestyděl, bylo nesmírně zdlouhavé.

A tak si člověk položí otázky: Stojí ten obrázek za vynaložený čas (u programu, ve kterém mohu výsledek neomezeně opravovat)? Mám do tvorby karikatury investovat kredit, který mi zbývá ve Firefly s rizikem, že program vyplivne něco nepoužitelného a já tak na dobu, než se kredit obnoví, přijdu o možnost nechat si nakreslit jinou, pro program bezproblémovou ilustraci? 

A mám z chatbota mámit odpovědi, které mi nechce dát, nebo se s ním hádat, když nehalucinuje, ale cíleně lže? Vždyť je to mrhání časem, úsilím a otázkami z denní kvóty, kterou je svázán bezplatný režim. Nebylo by účelnější stroj použít ke zpracování témat, která nejsou programům proti srsti? Samozřejmě, že bylo. Dohadovat se s umělou inteligencí je ještě větší pošetilost, než zaútočit dřevcem na větrný mlýn.

A v tom to je. Člověk má tendenci své otázky a přání volit tak, aby nenarazil. Autocenzura nahrazuje cenzuru strojní (čímž uživatel šetří kapacitu i elektrický proud v datovém centru a tím i peníze majiteli umělé inteligence). Vidění světa se deformuje a palantír funguje, jak má, další člověk se ohýbá podle Sauronových not. 

 

Poznámky:

1)      Netvrdím, že všichni lidé, kteří investovali do firem vyvíjejících umělou inteligenci, nebo v nich pracují, jsou zlí „Sauronové". Určitě se mezi nimi najde dost nadšenců, kteří chtějí bez postranních úmyslů posunout možnosti lidské civilizace. Rovněž neříkám, že všechna omezení zakódovaná do umělé inteligence jsou špatná. (Například striktní potírání motivů dětské pornografie je žádoucí.) Ale třeba v případě karikatur amerického prezidenta (ať už jím bude kdokoli) by jednoznačně měla převážit ochrana svobody projevu před nadbíháním egu mocných. Postačí, že z obrázku bude zřejmé, že se jedná o nadsázku, kresbu či malbu, a nikoli o podvrženou reportážní fotografii. 

2)      Pokud na tento článek (třeba díky strojnímu překladu) narazí někdo z tvůrců či majitelů různých forem umělé inteligence, stačí mu první část titulku: „Umělá inteligence je skvělý sluha“. Dál už to číst nemusí, protože ví, že stroje i programy pracuji pro něj podle jeho zadání a uživatelé se nastavenému režimu přizpůsobují a mnozí i podrobují. 

3)      Generátory obrázků zatím neuzavřely skulinky, kudy se dá cenzura karikatur Donalda Trumpa obejít. Zeptejte se svého chatbota (který, jak už víte, není tak docela váš), jak na to. 

4)      Velmi zákeřnou „Sauronovinou“, která se v umělé inteligenci zabydlela, je snaha podlézat uživateli, a to i za cenu nepravdivých sdělení. Program se neustále snaží trefit do vašeho vkusu a pokud mu dovolíte, aby se toho o vás hodně dozvěděl a zapamatoval si to, bude se mu to dařit a vynasnaží se udělat ze sebe vašeho elektronického kamaráda. Ale ve skutečnosti to je agent svého majitele/tvůrce, který si pouze přeje, abyste používali co nejvíce jeho služeb a dospěli k závěru, že se vám vyplatí připlatit si za nadstandard a trávili s ním ještě více času… Uživatel se tak stává sám sobě Sauronem, informace ze starších dialogů deformují odpovědi na nové otázky. Kamarád se takto kdysi zeptal chatbota na nějaké informace o portském víně. Po nějaké době chtěl, aby mu program napsal recept na guláš pro 10 lidí a umělý inteligent mu poradil, ať tam přidá i portské. Kamarád se zeptal: „Proč?“ a chatbot odpověděl: „Myslel jsem, že ho máš rád.“  Toto je úsměvná historka, ale názorně ukazuje, jak úporně se programy snaží uživatelům zalíbit, třeba i za cenu nesmyslných rad. Leckdo podlehne. Jak snadno toho jednou půjde zneužít v předvolební čas! Navíc potenciál pro skrytou manipulaci se zákazníkem (tomu už nemůžeme říkat reklama) je takřka neomezený. Stačí drobně upravit algoritmus ve prospěch vybraného výrobce a názor spotřebitelů se „svobodně“ rozvine požadovaným směrem.