Britská vláda se rozhodla kriminalizovat vytváření deep fake porno videí s náhodně vybranými členkami veřejnosti
22. 4. 2024
Moderátorka Channel 4 News Cathy Newman: Tohle je. porno video se mnou, ale je úplně falešné. Je to jen něčí představa, že se mnou bude mít sex. Zkoumali jsme deep fake pornografický a zneužívající průmysl, který se rychle rozvíjí s pomocí umělé inteligence. Kdybyste nevěděli, že to nejsem já, mysleli byste si, že je to skutečné. Je to svět digitálně upravených videí a obrázků, které lze vytvořit pomocí jediné fotografie něčího obličeje. Náš tým zjistil, že v roce 2023 bylo vytvořeno více deep fake pornografických videí než ve všech ostatních letech dohromady. Jen na těch nejpopulárnějších stránkách byla tato videa zhlédnuta více než 4,2 miliardykrát. Již několik měsíců je v Británii sdílení deep fake porna nezákonné, ale dnes vláda šla ještě dál a postavila tvorbu takových snímků mimo zákon. Odborníci však tvrdí, že zákonodárci po celém světě dosud nedokázali držet krok s touto technologií a jejím zneužíváním.
Profesorka Clare McGlynnová, Durham Law School: Je to velmi odvážný a silný krok a já ho velmi vítám. V legislativě, která bude kriminalizovat vytváření hlubokých podvrhů, jsou však bohužel určité mezery. Kriminalizace pouze v případě, že se podaří prokázat, že osoba, která tak činí, měla v úmyslu způsobit újmu. To bohužel znamená, že pokud to dotyčná osoba dělá pro sexuální uspokojení, pro vydělání peněz, pro zvýšení svého statusu mezi přáteli, tyto případy nebudou pokryty. Takže opravdu potřebujeme, aby velké technologické společnosti zakročily a rychle jednaly, aby skoncovaly s touto hrůzou deep fake sexuálního zneužívání.
Reportérka: Květinářka Sophie Parrishová zjistila, jak obtížné je pohnat pachatele před soud, když loni objevila na internetu deep fake snímky své nahoty. Někdo blízký její rodině vzal její fotografie ze sociálních sítí a nahrál je na webovou stránku, kde muži sdíleli deep fake akty.
Sophie Parrishová: Myslím, že je to krok správným směrem. Mápocit, že je to dostatečné? Pravděpodobně ne. Snažili jsme se jít po linii se zlomyslnou komunikací, ale potřebovali jsme, aby osoba, která to udělala, řekla, že to udělala se zlým úmyslem. Jsem ponížená tím, že se to stalo. Dá to právníkům žalobců trochu páky, aby mohli jednat, že to oběti ponížilo, i když to možná nebylo úmyslem? Je tady prostě taková šedá zóna, která potřebuje tak nějak, předpokládám, trochu víc vyjasnit.
Reportérka: Laura Farrisová, ministryně pro oběti a bezpečnost, stojí v čele změny zákona. Už dříve mi řekla, proč se rozhodla jednat.
Laura Farrisová: No, je to něco, o čem víme, že se rychle vyvíjí. A to způsobem, který se vlastně zcela vymkl kontrole. Slyšíme samozřejmě příběhy známých lidí, včetně vás, kteří se stali oběťmi tohoto ze všech oblastí života, ale také známe oběti, víte, školní děti nebo studenti nebo obyčejné ženy, které objevily obsah, který je tak ponižující a explicitní, na němž je rozpoznatelně jejich tvář, ale nejsou to ony, a vypadá to naprosto realisticky. A tak když tento návrh zákona procházel sněmovnou, uvědomili jsme si, že je to vlastně příležitost jednat tam, kde žádná národní vláda nikdy nejednala, a kriminalizovat i vytvoření deep fake o sexuálně explicitního obrazu.
Reportérka: Když říkáte, že se to vymklo kontrole, myslím tím, že to zní, jako by to šíření bylo opravdu epidemií.
Laura Farrisová: A proto jsme chtěli nyní zavřít dveře a vyslat jednoznačný signál, že jde o trestný čin. Skončíte s trestním záznamem, i když to uděláte v soukromí svého domova, a analogie, kterou jsme použili, je, že v této zemi je trestným činem vyrobit výbušné zařízení. I když řeknete, že jsem to nikdy neměl v plánu použít, bylo to něco, co mělo jen tak ležet na zahradě. Protože pokud se to dostane do nesprávných rukou nebo pokud se změní záměr tvůrce, pak to může mít katastrofální následky.
Reportérka: Lidi se obávají některých mezer, například toho, jak obtížné by mohlo být prokázat zlý úmysl, a také by někdo mohl říct, no, já jsem to nevyrobil. Prostě jsem požádal aplikaci, aby to vytvořila. Jak tedy uzavřete některé z těchto mezer?
Laura Farrisová: Takže máte pravdu, že jste na tyto body upozornila, protože jsou to body, na kterých ve vládě pracujeme. Prvním bodem je, že pokud použijete aplikaci k vytvoření takovéhoto obrázků, budete v rámci trestného činu, budete se dopouštět trestného činu a lidé by měli mít v tomto naprosto jasno.
Reportérka: Ale máte důkaz, že úmysl byl zlý?
Laura Farrisová: Zlovolnost je konstruována široce, takže pokud to děláte za účelem sexuálního uspokojení, a to bude, myslím, poměrně snadné vyvodit, pokud někdo vytvořil i pornografický film osoby, že ví, že to byl účel, proč to dělá, není to vysoká hranice. Je to přesně naopak. Z 98 % se jedná o pornografický obsah a v tomto obsahu je v 99 % objektem žena. Jedná se tedy o. ve své podstatě misogynní trestný čin, a proto dnes tuto mezeru v zákoně uzavíráme.
Reportérka: Velké technologické firmy by to mohly zastavit hned teď. Jaký na ně vyvinete tlak, aby to udělaly?
Laura Farrisová: Myslím tím, že velké technologické firmy by to mohly zastavit. A kdykoli je máme v Parlamentu, víte,vždycky mluví opravdu doře. Někdy jsem byla hluboce zklamána tím, co nám některé z velkých společností, zejména v oblasti sociálních médií, osobně řekly a některé obsahy, o kterých víme, že je hostují, upřímně řečeno, obávám se, že na svých stránkách spíše podporovaly.
Reportérka: Protože na tom vydělávají peníze.
Reportérka: Nakonec nebudou jednat, dokud je nezasáhnete tam, kde to bolí, a to je to hlavní, jak jste řekla. dokud z některé z těchto společností neuděláte příklad, nezmění se.
Reportérka: Každý den jsou nahrávány další tisíce deep fake videí a obrázků. Pokud se ukáže, že velké technologické firmy nejsou ochotné jednat, a vlády zjistí, že toho nejsou schopny, je to ke škodě žen a dívek na celém světě.
Jsem.
Diskuse