Michael I. Jordan: „Ve světě umělé inteligence je příliš mnoho arogance“

12. 2. 2025

Osmašedesátiletý Michael I. Jordan je matematik a doktor kognitivních věd. Jeho práce ovlivnila tvorbu aplikací AI, jako je ChatGPT a systémy doporučení. Dnes je emeritním profesorem na UC Berkeley a výzkumným pracovníkem na Inria Paris, ale nikdy se nezajímal o zapojení do podnikatelského boje v Silicon Valley.

„Každý by si měl najít to, co mu dělá potěšení, ne se snažit přetěžovat. V zásadě jsem někdo, kdo chce věcem rozumět. Nechci jen stavět věci,“ říká.

Jeho znalosti a nezaujatý pohled mu umožňují vidět humbuk kolem generativní umělé inteligence se značnou dávkou skepse. Za svou práci nedávno získal cenu BBVA Foundation Frontiers of Knowledge. Jordan je méně citlivý vtipy o jeho jménu – mimo jiné proto, že byl děkanem na MIT dlouho předtím, než se basketbalová hvězda proslavila, a vědec pokračuje v inovacích dodnes. „Nejdřív to bylo vtipné, ale pak mě to omrzelo,“ říká v souvislosti se sdílením jména se sportovní ikonou.

Otázka. Je kolem AI příliš velký humbuk?

Odpověď. Ten humbuk bude prostě pokračovat. Lidé, kteří vyvíjejí technologii, o ní rádi mluví a rádi extrapolují, ale také si myslím, že je v tom trochu příliš mnoho arogance. Kolektivní úsilí je to, co pohání lidstvo kupředu. Samostatně nejsme tak chytří. Tyto společnosti pro mě vyvíjejí nástroje, jsou to mocné nástroje. Ale nástroj položený na zemi toho moc neudělá. Musí to být v rukou lidské bytosti, pravděpodobně skupiny lidských bytostí, a pak se začnou dít dobré věci. Pokud se chystáte něco řešit, najít nové léky, nástroj vám pomůže hledat na správných místech a poradit. Pokud se chystáte uvažovat o klimatických problémech, nástroje vám pomohou dělat lepší předpovědi, které vám umožní přemýšlet novými způsoby. Pokud se chystáte dělat kreativní umění, tento nástroj vám umožní vytvářet nové zvuky a vytvářet nová spojení. Samotné nástroje však problém nevyřeší.

Otázka: Čekal jste, že se před dvěma lety objeví něco jako ChatGPT?

Odpověď. Je to lepší, než jsem si představoval. Řekli, že do roku 1990 bude AI hrubou silou, což znamená AI, která jen něco dělá, nesnaží se ničemu přímo porozumět nebo vyvinout nějakou konkrétní strukturu. Umožňuje gradientnímu sestupu najít vše a dělá to na obrovském množství dat. Všechno to byly nápady v roce 1990. Další ingredience byly dvě: snadný přístup k obrovskému množství dat stažených z internetu a pak GPU [jednotka grafického zpracování], která to skutečně poháněla. Dáte všechny ingredience dohromady a najednou je to opravdu, ale opravdu dobré. Myslím, že správný způsob, jak přemýšlet o ChatGPT, je ten, že je to kolektivní přítomnost celého lidstva. Jsou to malé kousky od stovek milionů lidí, zejména od lidí, kteří napsali opravdu dobré věci, například na Wikipedii. Velká část jeho inteligence pochází přímo z příspěvků lidí.

Otázka. Čínský model, DeepSeek, právě vtrhl na scénu. Jsou výhody DeepSeek tak mimořádné, jak se říká?

Odpověď: Nesleduji všechny detaily, ale zdají se být významné. Není to úplně překvapivé, když si uvědomíme, že struktury, které fungovaly, založené na transformátorech a vrstvených sítích, byly navrženy poněkud improvizovaným způsobem. Často k rychlému postupu vpřed stačila hrubá síla. Ale to neznamená, že neexistují chytré triky nebo jednodušší struktury, které také fungují.

Otázka: Co by nyní mohl jeho úspěch znamenat pro priority Silicon Valley, pokud jde o AI, vzhledem k jeho enormním investicím do softwaru a databází?

Odpověď: Myslím si, že Silicon Valley by mělo trávit více času přemýšlením o obchodním modelu generativní umělé inteligence a velkých jazykových modelech a nemělo by při postupu záviset pouze na hrubé síle.

Otázka: Zakladatel Anthropic, Dario Amodei, který je tvůrcem chatbota Claude, před několika dny v Davosu řekl, že za dva nebo tři roky bude AI „lepší než lidé, téměř ve všem“.

Odpověď. Myslím, že je to špatně. Ten člověk je někdo, kdo nestudoval informatiku, kdo nestudoval lingvistiku, kdo nestudoval sociální vědy. Myslím, že jeho pozadím byla fyzika. A fyzici mívají velkou aroganci ohledně toho, jak vesmír funguje. Ale myslím si, že podceňují lidského génia, zejména lidského kolektivního génia.

Už je pravda, že počítače umí počítat lépe než kdokoli z nás. A dokážou psát písničky a mohou dokonce pravděpodobně napsat román. Nevěřím ale, že za dva až tři roky budou psát romány jako Dostojevskij. Jsou to romány, které mluví o lidském stavu a mluví způsobem, který s námi rezonuje, protože vypovídají o zkušenosti toho, kdo je píše, že měli život, žili, zemřeli, trpěli, zvítězili. Něco z toho získáte napodobováním lidí, předpovídáním dalšího slova v mnoha starých větách, ale není to totéž.

Otázka: Zdá se, že DeepMind společnosti Google se více zaměřuje na nástroje.

Odpověď. Jsem s tím v pohodě. Rozlišuji mezi firmami. DeepMind se mi jeví jako jedna z produktivnějších společností, pokud jde o vytváření opravdu užitečných nástrojů. Nesleduji všechny detaily, ale pravděpodobně je v tom trochu arogance „vyřešíme problémy světa“, ale myslím, že to není myšleno stejným způsobem. Myslím, že se prostě snaží vytvořit ty nejlepší nástroje, které mohou. Jsou jiní, bláznivější lidé, kteří si myslí, že jejich věž s umělou inteligencí bude mít veškeré znalosti světa a bude vědět všechno, a pokud budeme chtít odpověď na jakoukoli otázku, půjdeme za ní a dá nám odpověď. To je velmi nevěrohodné. Lidé v daném okamžiku mají myšlenky, které jsou kontextové, komplexní. Tenhle velký stroj na kopci tohle všechno neumí. Tvrzení, že nějaká entita bude chytřejší než my, to prostě není moc dobře definované.

Otázka: Poznamenal jste, že říkat, že entita bude inteligentnější než my, je velmi naivní.

Odpověď: Existuje mnoho druhů inteligence. Rád mluvím o inteligenci velkého trhu. Skládá se ze spousty malých rozhodnutí. K tomu, abyste se mohli rozhodnout, nepotřebujete mnoho vědět, ale všechna rozhodnutí poskládáte do správné struktury, s pobídkami a určitými druhy spojení, vše, co se objeví. A tento trh dělá tyto úžasné věci. Stabilizuje transakce, zpřístupňuje věci, přizpůsobuje se a tak dále. Podle jakékoli definice je to inteligentní entita. To není lidská inteligence, to je jiný druh inteligence. Pravděpodobně existuje 10 dalších druhů inteligence.

Otázka: Když někdo říká, že budeme „řešit inteligenci“, co tím myslí?

Odpověď. Budete všechny tyto věci řešit? Chystáte se vytvořit mega inteligenci, která bude zahrnovat všechny z nich? Stává se z toho prostě sci-fi a nepříliš užitečné pro inženýrsky orientované lidi a vědce, jako jsem já. A nemyslím si, že to společnosti pomáhá myslet si, že právě toho se chystáme dosáhnout. Myslím, že společnosti nejlépe pomůže, když si budeme myslet, že získáme nějaké velmi mocné nástroje a že najdeme kreativní způsoby, jak je využít. Často myslím na pětadvacetileté lidi, kteří přicházejí na tento svět a kteří si myslí, že jejich cílem je vyvinout autonomního robota, který tančí na pódiu. Ale ne, jejich cílem by mělo být vyvinout systém aut, který bude federovaný a propojený, díky němuž už nikdo nikdy nezemře v autě.

Otázka: A roboti, které představil Elon Musk a podávali pivo?

Odpověď. Jde o vztahy s veřejností. Jsou to hry, jsou to hračky. Je to nepochybně seriózní inženýrství, ale nemyslím si, že je to zvlášť dobrá cesta. Opět se snaží napodobovat lidi, napodobovat lidi, a proto je nahradit. Nemyslím si, že by to mělo být cílem technologie. Mělo by to pomáhat lidem a pomáhat nám dělat věci, které neděláme moc dobře. Nebudu kritizovat, baví se. Ale existuje tolik problémů, na které se tato technologie lépe zaměřuje, než když roboti narážejí do hořících budov nebo míří na Mars.

Otázka: Proč nemá generativní umělá inteligence více kolektivních a obecných cílů?

Odpověď. Generativní AI je sexy. Je to fantastické PR. Ukazujete, že to děláte, a proto všichni usuzují, že za tím je tato super technologie – investujme! Velká část z toho je poháněna touhou po 100 milionech dolarů, víte, kolem série A nebo tak něco. Faktem ale je, že pokud jdete do jakékoli společnosti, která řeší skutečné problémy, například jak dostanu balíky z jednoho místa na druhé, jak zajistím bezpečnost lidí, jak udělám vzdělávání lépe a tak dále – v té společnosti všichni sedí kolem stolu a spolupracují. Ve většině společností ve skutečnosti existuje inženýrský způsob myšlení, který řeší skutečné problémy. A tak by možná v nějaké části použili generativní nástroj AI, ale nebudou trávit všechen svůj čas vývojem nástrojů, aby získali ocenění za stovky milionů dolarů. Většina společností skutečně používá nějakou generativní AI, ale mají obchodní model, který je něco jiného. Naproti tomu mnohým z těchto startupů vyvíjejících generativní AI a získávajících velká ocenění se to nepodaří, protože nemají obchodní model.

Otázka: Tam jsme dnes?

Odpověď: Myslím, že ano, a nechci říkat, že to všechno vím, protože tím trávím spoustu času a mám spoustu zkušeností, ale Elon Musk pětkrát slíbil samořídící auta. Každý rok tam bylo "Pošleme je do světa". A neudělal to, protože nechápal, jak je to těžké. Nyní máte Waymo, což je podle mě úspěšnější společnost. A auta Waymo v San Franciscu to dělají jednoduchým způsobem. Pohybují se relativně pomalu a jsou relativně v bezpečí a to je dobře. Chce to čas. Tyto druhy inženýrských projektů jsou spíše desetiletými projekty, nejsou to dvouleté projekty. A to jsou jen auta, která nejsou tak složitá jako například lidské tělo nebo medicína nebo fyzika klimatu. Jakmile se dostanete do některého z těchto problémů, začne záležet na naprosté složitosti.

Otázka: Co byste řekl pracovníkům, kteří se obávají, že budou nahrazeni umělou inteligencí?

Odpověď. Nejprve bych řekl, že v této diskusi musíme mít více aktivních ekonomů. Když mluvíme o regulaci, Evropa miluje nejprve zavést regulace a až potom přemýšlet. A to je velmi špatný nápad. Nejprve musíte jevům porozumět. A pak se pokusíte přidat nějakou regulaci, abyste se ujistili, že jsou v dobré rovnováze. Toto řízení technologií shora dolů, protože se toho lidé bojí, je velmi špatný nápad. Ono to neznamená, že byste na to neměli myslet. Některá pracovní místa určitě zaniknou a některá z nich možná bude třeba chránit. Možná je to jen potřeba zpomalit. Pokud pracovní místa zmizí za rok nebo dva, je to příliš rychlé. Pokud trvá 10 let, než určitý druh práce zmizí, je to lepší, je to dostatečně pomalé na to, aby se lidé mohli přizpůsobit a začít chápat, že určitý druh práce, jako je naslouchání rozhovoru a jeho shrnutí, to umělá inteligence dokáže. Takže, pokud vaším kariérním snem bylo být osobou, která si dělá poznámky v místnosti, měli byste přemýšlet o jiné kariéře.

Otázka. A co byste řekl mladému člověku, který v éře umělé inteligence začíná na univerzitě?

Odpověď. Tvrzení, že byste neměli dělat matematiku, protože to všechno budou dělat počítače, prostě není pravda. Objeví se jen nové problémy a nebudou to staré problémy počítačové vědy. Objeví se nové problémy v informatice a nebudou se jen učit kódovat ve Fortranu nebo C. Budou dávat věci dohromady ve větších systémech. Stroje to samy neudělají. Pokud jste typ stavitele a rozumíte tomu, jak věci poskládat, bude práce spousta.

Zdroj v angličtině: ZDE