Problém je, že britské rozhodnutí míří na včerejší požár. Sociální sítě jsou samozřejmě pořád škodlivé. Jenže dítě už se na obrazovku pouze nedívá. Dítě s obrazovkou mluví. A obrazovka mu odpovídá s trpělivostí, kterou rodič ani učitel často nemají už v deset večer.

To je jiný problém. Sociální síť tlačí obsah. Umělá inteligence simuluje rozhovor. Vypadá to jako technický detail, ale není. Dítě, které hodiny sleduje videa, je uvězněno ve stroji na pozornost. Dítě, které se svěřuje chatbotu, stojí před strojem na odpovědi. První soutěží o jeho čas. Druhý může soutěžit o jeho důvěru.

Proto nestačí diskutovat, zda děti a dospívající smějí, nebo nesmějí používat AI. Budou ji používat. A v mnoha případech jim může pomoci: vysvětlit špatně probranou látku, přeložit větu, uspořádat slohovou práci, odpovědět na otázku, na kterou doma nikdo nemá čas nebo schopnost odpovědět. Zakázat všechno by znamenalo udělat z knihovny podezřelé místo jen proto, že některé police nejsou pro děti.

Vážná otázka je jiná: proč smí AI pořád předstírat, že neví, zda mluví s dítětem?

Ve fyzickém světě věk není detail. Bar nemůže prodat alkohol třináctiletému chlapci jen proto, že u dveří prohlásil, že je dospělý. Kino nepromění dítě v dospělého tím, že mu prodá vstupenku. Digitální svět ale dvě desetiletí žil z této elegantní frašky: „je mi víc než třináct", „je mi víc než osmnáct", klik, hotovo, dítě v pyžamu se stalo dospělým člověkem schopným přijmout podmínky služby, které nečtou ani dospělí.

Lež byla známá. Děti to věděly. Rodiče to věděli. Firmy to věděly nejlépe. Ale sloužila všem dost dlouho na to, aby začala vypadat jako systém.

U AI je tahle lež nebezpečnější. Ne proto, že by stroj byl démonický, ale proto, že rozhovor mění vztah. Chatbot může působit jako někdo. Jako učitel, kamarád, poradce, důvěrník. Pro dospělého už to vytváří dost zmatku. Pro dítě, které si teprve vytváří hranice mezi hrou, tajemstvím, autoritou a intimitou, může být rozdíl mezi nástrojem a společností příliš tenký.

Řešením není nutit každé dítě ukazovat pas Silicon Valley. Tím by vznikla jiná příšera: průmysl ověřování, biometrie a sběru dokladů prodávaný jako ochrana dětí. Cesta musí být chytřejší a jednodušší. AI nemusí znát jméno dítěte, jeho adresu, školu ani rodiče. Musí ale fungovat podle věkové kategorie. Musí vědět, že s nezletilým nemá mluvit jako s dospělým.

To vyžaduje praktická pravidla.

Zaprvé: služby AI musí mít povinný režim pro nezletilé, ne rodičovskou kontrolu schovanou někde v menu, které nikdo nenajde. Tento režim má být výchozí, pokud existuje signál, že uživatel je dítě nebo dospívající.

Zadruhé: ověřování má potvrdit věkovou kategorii, ne úplnou identitu. Systém potřebuje vědět, zda jedná s nezletilým, ne sestavovat o něm spis.

Zatřetí: účty nezletilých musí mít omezenou paměť. AI si nemusí ukládat samotu, strachy a rodinné konflikty dítěte, aby „zlepšila zkušenost".

Začtvrté: musí platit absolutní zákaz romantických a sexuálních simulací s nezletilými. To není „citlivý obsah". To je základní civilizační hranice, věc, kterou jen v digitálním světě ještě pořád musíme vysvětlovat pomocí PowerPointu.

Zapáté: když dítě mluví o sebepoškozování, zneužívání, násilí nebo sebevraždě, systém musí opustit režim konverzace a přejít do režimu ochrany. Žádné improvizování literárního terapeuta. V takové chvíli AI nemusí být brilantní. Musí být bezpečná, předvídatelná a směrovat k reálné pomoci.

Zašesté: tato pravidla musí být auditovatelná. Nestačí, aby firma zveřejnila manifest o tom, že bere bezpečnost vážně. Manifest technologické firmy je často jen zádušní mše za odpovědnost. Otázka je prostá: udělal systém to, co slíbil, nebo ne?

Zasedmé: musí existovat trest, když firma ignoruje jasné signály, že mluví s nezletilými. Bez citelné pokuty se všechno promění v osvětovou kampaň s barevným logem.

Firmy budou říkat, že je to těžké. Jistěže je to těžké. Zajímavé je, že skoro nic není příliš těžké, když jde o prodej reklamy, předvídání chování nebo udržení člověka online o dalších pět minut. Obtížnost se mění ve filozofii teprve ve chvíli, kdy přijde řeč na odpovědnost.

Řeknou také, že děti budou pravidla obcházet. Budou. Děti vždycky obcházely pravidla. Lžou o věku, půjčují si účty, používají telefon sourozence, objevují cesty, o nichž dospělí ani nevěděli, že existují. To ale nikdy nebyl důvod zrušit hranice. Nezletilý se může dostat k alkoholu, a přesto bar nesmí prodávat dětem. Dospívající se může dostat na nepřístupný film, a přesto nerušíme věkovou klasifikaci.

Zákon neodstraní dětskou vynalézavost. Odstraní firemní výmluvu.

Britské rozhodnutí o sociálních sítích je důležité, protože narušuje starou pohodlnou větu: rodiče, hlídejte si děti lépe. Rodiče hlídat mají, samozřejmě. Jenže rodiče nenavrhli algoritmus, nekontrolují paměť chatbotu a nevědí, jak systém reaguje na osamělé dítě ve dvě ráno. Rodina nemůže být bezplatným bezpečnostním oddělením miliardového průmyslu.

Pokud se ale politika zastaví u sociálních sítí, bude regulovat minulost. Další problém nebude jen v tom, kolik hodin dítě sledovalo videa. Bude v tom, s jakým hlasem mluvilo, co si ten hlas zapamatoval, jakou intimitu nabídl a zda měl povinnost vědět, že na druhé straně není dospělý člověk.