Počet případů materiálu znázorňujícího sexuální zneužívání dětí vytvořeného pomocí umělé inteligence již několik let stoupá, především s obrovským nárůstem počtu videí, ačkoli nejnovější údaje IWF se týkají pouze statických obrázků. Většina obrázků, které analytici zhlédli, zachycovala dívky a děti ve věku od sedmi do třinácti let.

IWF uvedla, že tato čísla podtrhují potřebu nové zákonné regulace umělé inteligence.

Hannah Swirsky, vedoucí oddělení politiky v IWF, uvedla, že podporuje výzvy britských poslanců k „závazné legislativě v oblasti umělé inteligence“, která by donutila firmy vyvíjet bezpečnější modely. „Je povinností technologických společností vyvíjet nástroje, které nelze tímto způsobem zneužít,“ řekla. „Tento problém vznikl v důsledku technologie, a pokud společnosti nebudou vyvíjet nástroje, které jsou bezpečné již od samého počátku.“

Materiál zobrazující sexuální zneužívání dětí generovaný umělou inteligencí je ve Velké Británii nelegální a vláda rovněž zakázala přizpůsobování modelů umělé inteligence za účelem vytváření takového materiálu nebo šíření těchto modelů dalším osobám. Vývoj modelu určeného k produkci hyperrealistického materiálu zobrazujícího sexuální zneužívání dětí se trestá odnětím svobody až na pět let.

Mluvčí vlády uvedl: „Britské právo jasně stanoví, že materiál zobrazující sexuální zneužívání dětí je nelegální, bez ohledu na to, zda je generován umělou inteligencí či nikoli. Jdeme ještě dál a zakazujeme modely umělé inteligence, které se používají k vytváření tohoto typu zneužívajícího materiálu a produkují odporné, hyperrealistické snímky, které často obsahují podobu skutečných dětí.“

Umělá inteligence také umožnila online predátorům vytvářet explicitní snímky dětí. Služba Report Remove, která blokuje zveřejňování intimních snímků na internetu, obdržela 420 hlášení od dětí týkajících se snímků, na nichž byly ony samy a o nichž se domnívaly, že byly zfalšovány nebo upraveny tak, aby vypadaly explicitně. Tento počet již překročil celkový počet 397 hlášení za rok 2025.

Využití nástrojů umělé inteligence k vytváření materiálů s obsahem zneužívání vedlo k tomu, že Národní agentura pro boj proti kriminalitě (National Crime Agency) a IWF vyzývají rodiče a zákonné zástupce, aby nezveřejňovali fotografie svých dětí na sociálních médiích. Pokyny doporučují nastavit účty na sociálních médiích jako soukromé nebo sdílet fotografie dětí pouze prostřednictvím skupiny „blízkých přátel“.

Zdroj v angličtině ZDE