Indonésie zablokovala Muskův chatbot Grok kvůli riziku pornografického materiálu
10. 1. 2026
K tomuto kroku došlo poté, co vlády a regulační orgány od Evropy po Asii odsoudily tento nástroj umělé inteligence a některé z nich zahájily vyšetřování sexuálního materiálu.
Indonésie v sobotu dočasně zablokovala chatbot Grok Elona Muska kvůli riziku pornografického materiálu generovaného umělou inteligencí a stala se tak první zemí, která odepřela přístup k tomuto nástroji umělé inteligence.
K tomuto kroku došlo poté, co vlády, výzkumníci a regulační orgány od Evropy po Asii tento nástroj odsoudily a některé z nich zahájily vyšetřování sexuálního materiálu v této aplikaci.
Startup xAI, který stojí za Grokem, ve čtvrtek oznámil, že omezuje generování a úpravy obrázků na platící předplatitele, a snaží se napravit bezpečnostní nedostatky, které umožňovaly sexuální výstupy, včetně zobrazení spoře oděných dětí.
„Vláda považuje praxi neoprávněných sexuálních deepfakes za závažné porušení lidských práv, důstojnosti a bezpečnosti občanů v digitálním prostoru,“ uvedla ve svém prohlášení ministryně pro komunikaci a digitální technologie Meutya Hafid.
Ministerstvo také předvolalo představitele X, aby tuto záležitost projednali.
Musk na X uvedl, že kdokoli, kdo používá Grok k vytváření nelegálního obsahu, ponese stejné důsledky, jako by nahrál nelegální obsah.
xAI odpovědělo na e-mail agentury Reuters s žádostí o komentář automatickou odpovědí: „Legacy Media Lies“ (Lži tradičních médií). X na žádost o komentář okamžitě nereagovalo.
Indonésie, která má největší muslimskou populaci na světě, má přísná pravidla zakazující sdílení onlinového materiálu považovaného za obscénní
Indonéská blokace následuje po tom, co Grok v pátek vypnul funkci vytváření obrázků pro drtivou většinu uživatelů poté, co se rozšířila vlna protestů proti jejímu používání k vytváření sexuálně explicitních a násilných obrázků.
Muskovi také hrozí pokuty, regulační opatření a možný zákaz X ve Velké Británii.
Tento nástroj byl také používán k manipulaci s obrázky žen, aby se jim odstranilo oblečení a umístily se do sexuálně sugestivních pozic. Tato funkce byla vypnuta s výjimkou platících předplatitelů.
Australský premiér Anthony Albanese také vyjádřil znepokojení nad používáním umělé inteligence v chatbotu Grok k umožnění vykořisťujícího sexuálního materiálu.
Premiér se v sobotu připojil k rostoucímu seznamu mezinárodních lídrů, včetně svého britského protějšku Keira Starmera, kteří kritizují tuto sociální mediální platformu.
„Používání generativní AI k vykořisťování nebo sexualizaci lidí bez jejich souhlasu je odporné,“ řekl novinářům v Canbeře.
„Skutečnost, že tento nástroj byl použit tak, aby lidé využívali jeho funkci tvorby obrázků prostřednictvím Groku, je podle mého názoru naprosto odporná.
Je to opět příklad toho, že sociální média neprojevují sociální odpovědnost, a Australané, a vlastně všichni občané světa, si zaslouží něco lepšího.“
Ačkoli počet hlášení přijatých australským úřadem eSafety Office zůstává nízký, podle něj došlo v poslední době k nárůstu hlášení týkajících se používání Groku k vytváření sexualizovaných nebo zneužívajících obrázků.
Dozorčí orgán v pátek varoval, že využije svých pravomocí, včetně oznámení o odstranění, pokud takový materiál splňuje prahové hodnoty definované v zákoně o online bezpečnosti.
„X, Grok a řada dalších služeb podléhají také systémovým bezpečnostním povinnostem detekovat a odstraňovat materiál týkající se sexuálního vykořisťování dětí a další nezákonný materiál v rámci australských průmyslových kodexů a norem, které jsou špičkou ve světě,“ uvedl.
Zdroj v angličtině ZDE
Diskuse