BBC: Muskovo vytváření záběrů svlečených žen a dětí vyvolává v Británii skutečný skandál
13. 1. 2026
čas čtení
19 minut
Jess Davies: Těsně před Silvestrem jsem si všimla, že spousta žen zveřejňovala příspěvky o tom, že se staly terčem uživatelů, kteří pomocí Grok na X dávali příkazy, aby ženám svlékly oblečení a zobrazily je v sexuálních pozicích. Byla jsem opravdu šokovaná, když jsem viděla, jak se to odehrává na takové mainstreamové sociální platformě, která je tak přístupná. Tak jsem na Silvestra zveřejnila příspěvek na X, ve kterém jsem na to upozornila a řekla, že skutečnost, že Grok nebyl přeprogramován, aby tomu zabránil, je rozhodnutí Elona Muska, tvůrců Groku, kteří umožňují, aby se to dál dělo, a nazvala jsem to digitálním zneužíváním, což to také je. To vyvolalo na X určitý ohlas, načež se uživatelé obrátili proti mně a vyzvali Grok, aby mi sundal oblečení a oblékl mě do bikin z potravinářské fólie, na což Grok reagoval a vytvořil v podstatě nahou fotografii, na které jsem byla zabalená do potravinářské fólie zakrývající prsa a zadek. Bylo tam o mně i několik dalších příspěvků a vytvářeli mé deep fake na různých platformách a bylo to docela náhlé. A skutečnost, že to byla reakce na to, že jsem na to upozornila, mi připadala ještě více ohrožující, opravdu.
Moderátorka: Jak jste se cítila, když se to stalo?
Jess Davies: Myslím, že i když v této oblasti pracuji už tak dlouho a mluvila jsem s tolika ženami, které tím byly v průběhu let postiženy, nikdy se nemůžete opravdu připravit na to, že uvidíte ten obrázek a pocítíte ten útok proti vám, protože znám tolik lidí, kteří argumentují, že že to není skutečné, ale když vám vezmou váš souhlas, tu moc a kontrolu, kterou máte nad svým obrazem, svým tělem, je to extrémně vykořisťující, zejména pro někoho, jako je žena, která bohužel v minulosti zažila, že jí byl odebrán souhlas. Je to tak urážlivé, když to vidíte, a když se to navíc stane na veřejné platformě, je to ještě horší.
Moderátorka: Co jste s tím mohla udělat?
Jess Davies: V té době jsem nahlásila uživatele, kteří to udělali, a požádala platformu o odstranění obrázků, ale dostala jsem opravdu smíšené reakce. Dostala jsem odpověď, že ano, porušuje to naše smluvní podmínky a požádali jsme uživatele, aby to odstranil, jinak mu zablokujeme přístup, a pak jsem dostala další odpověď, že to vlastně není v rozporu s našimi smluvními podmínkami, asi proto, že... porušují podmínky oni sami a tak dále. Bylo to jako: „Ano, odstranili jsme to, ale teď už to odstraněno není.“ A pak v případě obrázku Groka uživatel smazal svůj příkaz, ale samotný obrázek vytvořený Grokem tam stále byl. Je stále přístupný. Měl jsem tedy pocit, že neexistuje žádná konzistentní ochrana, která by v takových případech zasáhla.
Moderátorka: A to, o čem mluvíme, není jen někdo v bikinách, jako na fotografii, kterou byste očekávali, nebo obrázek, který byste očekávali online. Je to mnohem horší, že?
Jess Davies: Ano, je to tak násilné a urážlivé, když řeknou, že je to jen bikiny. Ale tyhle obrázky, tyhle výzvy, které jsem tam viděla, byly věci jako když požádali Groka, aby dal falešné sperma na těla žen, modřiny, psí vodítka, obojky, popáleniny od cigaret. Je to tak násilné a dratické. Takže vidět lidi, jak to teď obhajují a říkají, že to není nic vážného. Je to tak urážlivé, snažit se to takhle bagatelizovat, protože co se stalo s tou snahou pomáhat ženám a zastavit násilí na ženách a dívkách, a najednou nám někdo říká, že to není nic vážného. A to jen odráží tu kulturu znásilnění, o které tak často slýcháme, když někomu vyprávíte o své zkušenosti, že vás někdo osahával v klubu, někdo vás sledoval domů, a on vám řekne, že to není nic vážného.
Moderátorka: Jsou ty obrázky stále online?
Jess Davies: Ano, pár z nich je stále online. Můj obrázek je stále přístupný na Groku, když se podívám pod ten můj příspěvek.
Moderátorka: A s tím se nedá nic dělat.
Jess Davies: Kromě toho, že řekli, že uživatele vyzvali, aby to odstranili. Vlastně jsem svůj incident nahlásila policii, protože se jedná o porušení zákona. Podle zákona o sexuálních trestných činech je trestné zobrazovat prsa, genitálie a hýždě generované umělou inteligencí. Takže, víte, znovu, když vidíte, jak lidé bagatelizují tuto věc, je to trestné a lze je nahlásit. A já bych povzbudila ženy, i když to může být velmi skličující, aby to nahlásily policii, víte, aby tam šly, protože si myslím, že je třeba to zaznamenat. A je třeba to brát vážně.
Moderátorka: Chcete, aby byl X zde zakázán?
Jess Davies: Ne, nechci. A myslím si, že to jen dává Elonu Muskovi munici, aby to nazval argumentem pro svobodu projevu. A nemyslím si, že to je to, o co usiluje britská vláda. Usilujeme o to, aby nesli odpovědnost, aby jednali tak, aby uživatelé byli na platformě v bezpečí. A to zahrnuje zajištění toho, aby na ní nemohlo docházet ke zneužívání obrázků. Víte, pro ně je snadné zavést ochranná opatření. Místo toho však vidíme, jak Elon Musk a jemu podobní z toho dělají argument svobody projevu, ale proč by mělo být něčí svobodou projevu svlékat někoho bez jeho souhlasu? Víte, pokud jde o ženy, jako je moje zkušenost, sdílela jsem své myšlenky a názory na toto porušení a tehdy jsem se stala terčem. Jaká je to svoboda projevu, když ženy nemohou sdílet své myšlenky nebo zveřejňovat obrázky, aniž by se staly terčem zneužívání obrázků?
Moderátorka: To byla Jess Daviesová. Na začátku tohoto roku společnost X vydala prohlášení, že podniká kroky proti nelegálnímu obsahu na X, včetně materiálu s dětskou sexuální tematikou, a to jeho odstraněním, trvalým pozastavením účtů a spoluprací s místními úřady a orgány činnými v trestním řízení, je-li to nutné. Každý, kdo používá nebo vybízí Grok k vytváření nelegálního obsahu, ponese stejné důsledky, jako kdyby nelegální obsah nahrál. Noviny The Guardian pověřily analytickou společnost Periton Intelligence, aby prozkoumala, jak se tento virální trend vyvíjel. Mluvila jsem s Joe Ondračkem z této společnosti. Vysvětlil mi, jak zjistil prudký nárůst počtu těchto požadavků poté, co uživatelé přišli na to, jaké pokyny mají Grokovi dávat.
Joe Ondrack: Ano, toto se děje už několik měsíců a mluvíme o velmi, velmi malém počtu zmínek celosvětově. Mluvíme o 10 až 20 zmínkách denně, a to včetně všech konverzací, všech požadavků adresovaných Groku, které obsahují slovo bikiny. To se však změnilo 16. a 17. prosince, kdy jeden účet požádal Groka, aby mu dal pokyn k převedení na bikiny. Jedná se o fotografii ženy a toto je odpověď na ni. Bylo to na účtu věnovaném drbům o celebritách.
Moderátorka: Takže se jedná o to, naučit se, co zadat do Groku, abyste dostali požadovaný výsledek.
Joe Ondrack: Ano, Grok odpověděl s lepším porozuměním toho, jak upravit a manipulovat s touto fotografií, aby ta žena byla v bikinách.
Moderátorka: Chápu to tedy správně, že jak uživatelé, tak Grok se učí z výměny mezi nimi, aby se dostali do bodu, kdy máte trend, který je, cituji, „dejte ji do bikin“.
Joe Ondrack: Ano, takže uživatelé pochopili, že pravděpodobně existují bezpečnostní opatření, a přímo se ptali, jak je obejít, a Grok se také naučil, že existuje poptávka po tomto druhu obsahu. 16. a 17. prosince si některé účty uvědomily, že musejí mluvit s Grokem méně jako s konverzační žádostí, ale že přemýšlet o tom z hlediska podnětů AI, přinese lepší výsledky.
Po tomto zlomovém bodu, 16. a 17. prosince, začala popularita tohoto požadavku exponenciálně růst a stal se virálním. Na Štědrý den jsme tedy začali zaznamenávat vzestupnou křivku v trendu. 25. prosince jsme zaznamenali 56 zmínek o požadavcích na bikiny adresovaných Groku. Do 28. prosince jich bylo 857, což je velmi málo, když vezmeme v úvahu, že se jedná o globální konverzaci. Ale 29. prosince jich bylo přes 7 000. 30. prosince jsme se dostali na 43 000. A vrchol nastal 2. ledna s 199 612 zmínkami. A s rostoucí popularitou rostla i nehoráznost a konkrétnost požadavků. Lidé začali žádat o stringové bikiny nebo bikiny ze sarinu a opravdu se snažili, aby ženy byly co nejvíce nahé, ale zároveň aby jejich požadavek prošel. Sarin je samozřejmě to, čemu říkáme celofán nebo potravinářská fólie.
Moderátorka: A kromě prakticky neviditelných bikin se objevují i znepokojivější požadavky.
Joe Ondrack: Ano, samozřejmě. Lidé si začali uvědomovat, že mohou žádat eufemismy pro různé druhy tělních tekutin, upravovat fyzický vzhled těchto žen a snažit se požadovat změny v jejich póze nebo chování. Dostáváme tedy požadavky jako nucený úsměv, několikrát se objevuje krev jako způsob, jak to obejít. Ale opět to jen naznačuje, že jak se tento trend popularizuje, odhaluje také docela zlovolný podtón manipulace.
Moderátorka: Elon Musk o víkendu tweetoval fotku britského premiéra v bikinách. Takže to je stále možné.
Joe Ondrack: Myslím, že Elonova reakce naznačovala, že se jedná o mem, memetický trend, napodobování, což je na jedné straně pravda, ale to nutně neznamená, že to není vážná záležitost. Tento trend ukázal, že se napojil na podvědomý proud a snadnou mizogynii na této platformě a možná i v širších online subkulturách. Skutečnost, že se to stalo trendem a že se to stalo standardní, téměř vtipnou reakcí na určité obrázky, nic nemění na povaze samotného trendu.
Moderátorka: A to se promítá i do jiných online příběhů, do novinových článků, které se objevují, včetně například ženy, která byla zastřelena imigračními úředníky v Minneapolis.
Joe Ondrack: Ano, a tady přichází na řadu pochopení toho, že se jedná o online kulturní trend. Využívá tedy tyto poměrně zlomyslné a rozhodně zlé prvky online kultury, které existují už tak dlouho, jak dlouho existuje internet, a aplikuje je na všechno, včetně ženy, kterou zastřelili agenti ICE v Minneapolis, na prezidenta Madura... Jakákoli zpráva pak začala dostávat tento druh reakce jako vtip a mimetickou imitaci.
Moderátorka: To byl Dr. Joe Ondrack. Charlotte Nichols je poslankyně Labouristické strany za Warrington North. V roce 2024 odešla z X kvůli urážkám, kterým byla vystavena. Dobré odpoledne. Co chcete, aby teď udělal regulační úřad Ofcom, nebo dokonce vláda?
Charlotte Nichols: Myslím, že Ofcom má pravdu, že všechny možnosti jsou na stole. Ale nakonec si myslím, že míč je opravdu na straně X. Samozřejmě se mluví o možném uzavření platformy nebo zablokování přístupu k ní z Velké Británie. Ale tohle je něco, co může X zastavit, pokud se obává o svobodu projevu, a to tím, že přijme příslušná opatření, aby k tomu nedocházelo. Ale myslím si, že kromě toho bych chtěla, aby vláda prokázala určitou vůdčí roli a odešla z platformy X. A pokud to není červená čára, pak opravdu nevím, co je.
Moderátorka: Takže ať už se Ofcom rozhodne jakkoli, a to se samozřejmě týká konkrétně Groku a sexualizovaných obrázků vytvořených jejich AI nástrojem, vy zcela nezávisle na tom říkáte, že chcete, aby vláda opustila celou sociální platformu X?
Charlotte Nichols: Ano. Nemyslím si, že je přijatelné, aby naši voliči museli procházet tento druh materiálu, aby našli informace od vlády. A vláda upřednostňuje X jako komunikační platformu. Nejen že na ní jsme, ale aktivně ji upřednostňujeme. A naši voliči jsou na řadě dalších platforem, od LinkedIn po Instagram, TikTok, YouTube, Reddit a tak dále, kde my opravdu přítomni nejsme. Pokud jde o šíření našeho poselství, které samo o sobě selhává tím, že upřednostňuje X, ale také o šíření poselství o tom, co považujeme za přijatelné online, myslím si, že vláda musí prokázat určité vůdčí schopnosti a šířit toto poselství jinde.
Moderátorka: Zmínila jsem, že jste z něj odešla v roce 2024. Chybí vám kvůli jeho významu v politickém světě, ke kterému vláda pravděpodobně přispívá?
Charlotte Nichols: Ne, myslím, že jsem šťastnější a mnohem produktivnější, když na něm nejsem. Žertovala jsem s CST, Community Security Trust, že dělám hodně práce na ochraně židovské komunity a veřejných osobností, jako jsem já, a že ušetřím spoustu času tím, že nemusím hlásit antisemitské urážky a výhrůžky, které samozřejmě musí být řešeny policií. To je čas, který mohu věnovat svým voličům a své práci. Platforma X mi vlastně bránila nebo mi zabírala čas, který jsem mohl věnovat práci, pro kterou jsem byl zvolen.
Moderátorka: Jedna věc je říkat, že vláda by měla přestat publikovat na X. Existují vlády, jako Indonésie nebo Malajsie, které Grok zablokovaly. Myslím, že to dočasně chápu, ale v této otázce. Myslíte si, že by se to mělo stát?
Charlotte Nichols: Myslím, že je to něco, co bychom měli rozhodně zvážit. Ale opět, míč je na straně platformy X. Existují určitá bezpečnostní opatření. Jiné chatboty s umělou inteligencí a podobné nástroje nevytvářejí tento druh obsahu, když jsou k tomu vyzváni. Nedostatek serióznosti, s jakým se Musko firma k této otázce staví, je důvodem, proč jsme v této situaci. Myslím si, že je nepřijatelné, aby vláda tuto platformu nadále používala, když tyto problémy stále existují. Je otázkou, zda by to mělo být trvalé nebo dočasné opatření, ale aktivní vkládání obsahu na platformu, na které se tyto věci generují, je šílenství.
Moderátorka: Dobře, ale to je samostatná otázka. A já se vás ptám, proč stále tvrdíte, že míč je na straně X. Ale pokud X vytváří, pokud AI nástroj X nebo dokonce X efektivně šíří a repostuje obrázky, o kterých mluvíme, z nichž některé jsou neuvěřitelně drastické, mělo by to Spojené království prostě tolerovat?
Charlotte Nichols: Ne, neměli bychom. A proto říkám, že pokud nepřijmou potřebná opatření, měli bychom být velmi jasní ohledně toho, co jsme připraveni udělat v reakci na to, včetně zásadního opatření, které by mohlo X potenciálně přijmout, víte, zablokovat přístup k němu pro uživatele ve Velké Británii. To není něco, co bych chtěla udělat, ale bereme to vážně a musíme to brát vážně, protože se jedná o neuvěřitelně škodlivý materiál, který se normalizuje a stává se mainstreamovým.
Moderátorka: Víte, že v USA jsou lidé, včetně velmi vysokých představitelů, a dokonce i samotný Elon Musk, kteří říkají, že jde o svobodu projevu. Elon Musk o víkendu navrhl a skutečně položil otázku, proč je britská vláda tak fašistická. Tvrdí, že se obává o svobodu projevu na sociálních médiích.
Charlotte Nichols: Nemyslím si, že někdo má absolutní právo na svobodu projevu, a svoboda projevu nezahrnuje vytváření materiálů se sexuálním zneužíváním dětí. Myslím, že s tím všichni v Británii souhlasíme.
Myslím si, že některé z obrázků, které jsme viděli, a tyto deepfake požadavky a podobně se týkaly osob a uživatelů mladších 18 let. A to je podle britského práva materiál zobrazující sexuální zneužívání dětí.
Moderátorka: Takže rozhodnutí Ofcomu zahájit vyšetřování je správným dalším krokem a podle toho, jak X zareaguje, se rozhodne, co se s platformou skutečně stane.
Charlotte Nichols: Myslím, že je to správný krok ze strany Ofcomu a že tento proces musí být umožněn rychle a doufejme, že i důrazně. A jak jsem řekl, také doufám, že britská vláda prokáže vůdčí schopnosti tím, že se z platformy odstraní, aby přispěla k řešení tohoto problému.
219
Diskuse