Riziko vyhubení lidstva umělou inteligencí by mělo být globální prioritou, konstatují odborníci
31. 5. 2023
čas čtení
3 minuty
Stovky čelných technologických osobností vyzývají, aby svět považoval umělou inteligenci za stejné nebezpečí jako pandemie a jadernou válku
Skupina předních technologických
odborníků z celého světa varovala, že technologie umělé inteligence by
měly být považovány za společenské riziko a měly by být zařazeny mezi
priority stejné třídy jako pandemie a jaderné války.
Prohlášení, které podepsaly stovky vedoucích pracovníků a akademiků,
vydalo v úterý Centrum pro bezpečnost umělé inteligence v souvislosti s
rostoucími obavami ohledně regulace a rizik, která tato technologie
představuje pro lidstvo.
Likvidace hrozí všem lidem, ať žijí na Západě, nebo v Rusku či v Číně, takže by se lidé na potřebných opatřeních mohli celosvětově dohodnout podobně, jako celý svět zabránil nebezpečným genetickým experimentům, konstatoval profesor Mark Tegmark z MIT v úterý večer v Channel 4 News:
"Zmírnění rizika vyhynutí v důsledku umělé inteligence by mělo být globální prioritou vedle dalších rizik celospolečenského rozsahu, jako jsou pandemie a jaderné války," uvádí se v prohlášení. Mezi signatáři byli šéfové společností DeepMind společnosti Google, vývojářské firmy ChatGPT OpenAI a startupu Anthropic, který se zabývá umělou inteligencí.
Světoví lídři a odborníci z oboru - například vedoucí představitelé OpenAI - vyzvali k regulaci této technologie kvůli existenčním obavám, že by mohla významně ovlivnit pracovní trhy, poškodit zdraví milionů lidí a vyzbrojit dezinformace, diskriminaci a vydávání se za někoho jiného.
Tento měsíc odešel z Googlu muž, který je často označován za kmotra umělé inteligence - Geoffrey Hinton, který je rovněž jedním ze signatářů - s odkazem na její "existenční riziko". Toto riziko minulý týden poprvé zopakovala a uznala i britská vláda.
Podle Michaela Osborna, profesora strojového učení na Oxfordské univerzitě a spoluzakladatele společnosti Mind Foundry, sice dopis zveřejněný v úterý není první, ale vzhledem k širšímu okruhu signatářů a hlavnímu existenčnímu problému je potenciálně nejvlivnější.
"Je opravdu pozoruhodné, že se pod tento dopis podepsalo tolik lidí," řekl. "To skutečně ukazuje, že mezi těmi, kdo pracují v oblasti umělé inteligence, roste povědomí o tom, že existenční rizika jsou skutečným problémem."
Obavy, které vedly Osborna k podpisu veřejného dopisu, spolu s novými existenčními hrozbami AI, spočívají v tom, že AI může zhoršit stávající existenční rizika, jako jsou uměle vyvolané pandemie a závody ve zbrojení.
Výzvy k omezení hrozeb navazují na úspěch projektu ChatGPT, který byl spuštěn v listopadu. Tento jazykový model si široce osvojily miliony lidí a rychle pokročil nad rámec předpovědí těch nejlépe informovaných v oboru.
Osborne uvedl: "Protože umělé inteligenci příliš nerozumíme, existuje možnost, že by mohla hrát roli jakéhosi nového konkurenčního organismu na planetě, tedy jakéhosi invazivního druhu, který jsme navrhli a který by mohl hrát nějakou zničující roli pro naše přežití jako druhu."
Podrobnosti v angličtině ZDE
4080
Diskuse