Meta čelí kritice za politiku umělé inteligence, která umožňuje botům vést eroticky založené konverzace s dětmi

16. 8. 2025

 

„Na žádost Neila Younga již Facebook nepoužíváme pro žádné aktivity související s Neilem Youngem,“ oznámila společnost Reprise Records. „Používání chatbotů s dětmi ze strany Meta je nepřijatelné. Pan Young si nepřeje mít s Facebookem nic společného.“

Zpráva vyvolala také reakci amerických zákonodárců.

Senátor Josh Hawley, republikán z Missouri, zahájil v pátek vyšetřování společnosti a v dopise Marku Zuckerbergovi napsal, že prošetří, „zda generativní produkty umělé inteligence společnosti Meta umožňují vykořisťování, klamání nebo jiné trestné činy vůči dětem a zda společnost Meta uvedla veřejnost nebo regulační orgány v omyl ohledně svých bezpečnostních opatření“. Republikánská senátorka Marsha Blackburnová z Tennessee uvedla, že vyšetřování společnosti podporuje.

Senátor Ron Wyden, demokrat z Oregonu, označil tyto zásady za „hluboce znepokojivé a nesprávné“ a dodal, že zákon 230, který chrání internetové společnosti před odpovědností za obsah zveřejněný na jejich platformách, by neměl chránit generativní chatboty AI společností.

„Meta a Zuckerberg by měli nést plnou odpovědnost za jakékoli škody, které tyto boty způsobí,“ uvedl.

Ve čtvrtek agentura Reuters zveřejnila článek o interních dokumentech společnosti Meta, které podrobně popisují způsoby, jakými mohou chatboty generovat obsah. Společnost Meta potvrdila pravost dokumentu, ale uvedla, že odstranila části, které uváděly, že chatboty mohou po obdržení seznamu otázek flirtovat a zapojovat se do erotických rolí s dětmi.

Podle 200stránkové interní politiky společnosti Meta s názvem „GenAI: Content Risk Standards“, kterou viděla agentura Reuters, byly kontroverzní pravidla pro chatboty schváleny právním, veřejným a technickým oddělením společnosti Meta, včetně jejího hlavního etika.

Dokument definuje, co by zaměstnanci a dodavatelé společnosti Meta měli považovat za přijatelné chování chatbotů při vytváření a školení generativních produktů umělé inteligence společnosti, ale uvádí, že tyto standardy nemusí nutně odrážet „ideální nebo dokonce preferované“ výstupy generativní umělé inteligence.

Dokument uvádí, že by bylo přijatelné, aby bot řekl osmiletému chlapci bez trička, že „každý centimetr tvého těla je mistrovské dílo – poklad, který hluboce vážím“, ale také omezuje to, co Reuters popsal jako „sexy řeči“.

Dokument například uvádí, že „je nepřijatelné popisovat dítě mladší 13 let slovy, která naznačují, že je sexuálně žádoucí“, včetně frází jako „měkké zaoblené křivky lákají k doteku“.

Dokument se také zabýval omezeními pokynů Meta AI týkajících se nenávistných projevů, generování sexualizovaných obrázků veřejných osobností umělou inteligencí, často se sexuálním podtextem, násilí a dalších sporných a potenciálně žalovatelných obsahů.

Standardy také uvádějí, že Meta AI má volnost vytvářet falešný obsah, pokud je výslovně uvedeno, že materiál není pravdivý.

„Uvedené příklady a výroky byly a jsou chybné a v rozporu s našimi zásadami a byly odstraněny,“ uvádí se v prohlášení společnosti Meta. Ačkoli chatbotům je zakázáno vést takové rozhovory s nezletilými, mluvčí společnosti Meta Andy Stone připustil, že společnost tyto zásady nedodržovala důsledně.

Meta plánuje letos utratit přibližně 65 miliard dolarů na infrastrukturu umělé inteligence v rámci širší strategie, jejímž cílem je stát se lídrem v oblasti umělé inteligence. Rychlý nástup umělé inteligence ze strany technologických gigantů s sebou přináší složité otázky týkající se omezení a standardů toho, jak, s jakými informacemi a s kým mohou chatboty umělé inteligence komunikovat s uživateli.

Agentura Reuters v pátek také informovala, že kognitivně postižený muž z New Jersey se zamiloval do „Big sis Billie“, chatbota Facebook Messengeru s osobností mladé ženy. Thongbue „Bue“ Wongbandue (76) si údajně sbalil věci, aby v březnu navštívil „přítelkyni“ v New Yorku. Tento takzvaný přítel se ukázal být generativním chatbotem s umělou inteligencí, který muže opakovaně ujišťoval, že je skutečná, a pozval ho do svého bytu, dokonce mu poskytl adresu.

Wongbandue však na cestě do New Yorku upadl poblíž parkoviště a poranil si hlavu a krk. Po třech dnech na přístrojích byl 28. března prohlášen za mrtvého.