Umělá inteligence je velkým příslibem i nebezpečím. Zvolme správnou cestu

22. 5. 2023

 
Takový transformační potenciál je dán skutečností, že AI je technologie pro všeobecné použití, adaptivní i autonomní, která v sobě ukrývá část kouzla, jež vedlo lidi k přetváření Země.

Umělá inteligence je jednou z mála praktických technologií, které nám mohou umožnit plošně přebudovat naše ekonomiky tak, abychom dosáhli nuklových emisí CO2. Se svými spolupracovníky například využíváme umělou inteligenci k předvídání nestálých obnovitelných zdrojů energie (jako jsou solární, přílivové a větrné elektrárny), k optimalizaci umístění nabíječek pro elektromobily pro rovný přístup a k lepšímu řízení a kontrole baterií.

I když však umělá inteligence povede k velkým ekonomickým ziskům, někteří na tom mohou tratit. V současné době se umělá inteligence využívá k automatizaci některých činností copywriterů, softwarových inženýrů a dokonce i módních modelek (což je povolání, u kterého jsme v roce 2013 s ekonomem Carlem Freyem odhadli 98% pravděpodobnost automatizace).

Dokument od OpenAI odhaduje, že téměř u každého pátého pracovníka v USA se může stát, že polovina jeho úkolů bude automatizovatelná pomocí velkých jazykových modelů. Umělá inteligence samozřejmě také pravděpodobně vytvoří nová pracovní místa, ale mnoho pracovníků může i nadále pociťovat trvalou nejistotu a snižování mezd - například taxikáři v Londýně po zavedení Uberu pocítili snížení mezd o přibližně 10 %.

Umělá inteligence také nabízí znepokojivé nové nástroje pro propagandu. Podle Amnesty International algoritmy Meta podporou nenávistných projevů podstatně přispěly ke zvěrstvům, která v roce 2017 spáchala myanmarská armáda na Rohinzích. Dokážou naše demokracie odolat přívalům cílených dezinformací?

V současné době je umělá inteligence nevyzpytatelná, nedůvěryhodná a obtížně řiditelná - což jsou nedostatky, které vedly a povedou ke škodám. Umělá inteligence již vedla k neoprávněnému zatýkání (jako v případě Michaela Williamse, kterého falešně obvinil policejní program ShotSpotter založený na umělé inteligenci), k sexistickým algoritmům pro přijímání zaměstnanců (jak byla v roce 2018 nucena přiznat společnost Amazon) a ke zničení mnoha tisíc životů (nizozemský daňový úřad falešně obvinil tisíce lidí, často z etnických menšin, z podvodů s dávkami).

Snad nejvíce znepokojující je, že umělá inteligence může ohrozit naše přežití jako druhu. V průzkumu z roku 2022 (i když s pravděpodobným výběrovým zkreslením) se 48 % výzkumníků zabývajících se umělou inteligencí domnívalo, že AI má významnou (více než 10%) šanci, že lidé vyhynou. Pro začátek, rychle postupující, nejistý, pokrok AI by mohl ohrozit rovnováhu globálního míru. Například podvodní drony poháněné umělou inteligencí, které se ukáží jako schopné lokalizovat jaderné ponorky, by mohly vést k tomu, že by si některá vojenská mocnost myslela, že může provést úspěšný první jaderný úder.

Pokud si myslíte, že umělá inteligence nemůže být nikdy dost chytrá na to, aby ovládla svět, uvědomte si, že svět právě ovládl obyčejný koronavirus. To znamená, že dostatečné množství lidí mělo své zájmy sladěné právě tak (např. ve stylu "musím jít s tím kašlem do práce, jinak nebudu schopen uživit rodinu") se zájmy evidentně škodlivého patogenu, že jsme nechali Sars-CoV-2 zabít 20 milionů lidí a mnoho desítek milionů dalších zdravotně postihnout. To znamená, že nahlíženo jako na invazivní druh, umělá inteligence by mohla ovlivnit nebo dokonce zlikvidovat lidstvo tím, že by zpočátku působila v rámci stávajících institucí.

Například převzetí moci umělou inteligencí by mohlo začít tím, že nadnárodní společnost bude využívat svá data a umělou inteligenci k hledání mezer v pravidlech, k vykořisťování pracovníků, k podvádění spotřebitelů, k získávání politického vlivu, až se bude zdát, že celý svět je v područí její byrokratické, strojové moci.

Co můžeme proti všem těmto rizikům dělat? Inu, potřebujeme nové, odvážné strategie řízení, které by řešily jak rizika, tak maximalizovaly potenciální přínosy umělé inteligence - například chceme zajistit, aby to nebyly jen největší firmy, kdo může nést složitou regulační zátěž. Současné snahy o správu AI jsou buď příliš lehkovážné, nebo příliš pomalé (jako zákon EU o AI, který se připravuje již dva roky, což je osmkrát déle, než trvalo ChatGPT dosáhnout 100 milionů uživatelů).