ČRo: Neregulovaná umělá inteligence může internet zcela zahltit. Vznikne totální chaos, kde se ztratí úplně každý, varuje publicista Kartous
4. 4. 2024
čas čtení
4 minuty
Podle vysokoškolského pedagoga a publicisty Bohumila
Kartouse roste i u nás skupina lidí, kteří věří úplným bludům. S umělou
inteligencí (AI) to může dosáhnout až fáze neřešitelnosti. „Nedávná
bezpečnostní konference v Mnichově ukázala, že je to vážný problém. Také
se reprezentace korporací, které ovládají velké sociální sítě a
platformy, deklaratorně zavázala, že bude hledat cestu, jak zamezit
zneužívání nástrojů umělé inteligence,“ říká v Osobnosti Plus.
„V tomto směru jde určitě o hrozbu, která je zcela emergentní, protože nástroje AI jsou dnes tak dostupné a levné, že můžou zahltit internet něčím, co vytvoří totální chaos. A v něm se pak společnost naprosto ztratí. Je tak velmi důležité si uvědomit, že toto není otázka racionality, ale hodnot, které společnosti zastávají,“ doplňuje prorektor pro strategii a rozvoj Vysoké školy ekonomie a managementu (VŠEM) a mluvčí Českých elfů.
„Takže mají málo styčných bodů s tím, čemu tady říkáme populismus. Ten náš je totiž mnohem radikálnější, extrémnější – to celé ukazuje na to, že hodnotové rozpětí finské společnosti je mnohem menší než to naše.“
„Jsem ale optimista a věřím, že česká společnost je na dobré cestě, že není tak rozviklaná, polarizovaná a tak vnitřně slabá, jako je v Maďarsku i na Slovensku. My jsme tomu schopni odolat, ale je důležité zamezit zneužití různých technologických nástrojů,“ nabádá pedagog a publicista.
U umělé inteligence a jejího zneužívání například na sociálních sítích je to podle něj o to složitější, stát a společnost totiž hrají až druhé housle.
„I technologický vývoj v digitálním prostoru mají v rukou soukromí investoři. A tím, že tady nad ním nemáme zatím žádnou kontrolu, je to ještě horší,“ dodává s tím, že proto tak nutně potřebujeme nějakou regulaci, tlačit ale musíme hlavně na Evropskou unii, protože jen ta může něčeho dosáhnout.
„A je to v současnosti jediná cesta, jak dosáhnout toho, abychom si udrželi kontrolu nad veřejným zájmem,“ zdůrazňuje Kartous.
„Pokud nechceme dospět do situace, že se z internetu stane místo totálního informačního chaosu, ve kterém se všichni ztratíme, ve kterém nebude možné vůbec posoudit, co je pravda, nebo co není, musíme to uhlídat.“
„Už jen existence deepfake znamená, že když někdo nachytá nějakého politika, tak on bude moct říct, že to neřekl a je to deepfake – a už nikdo nerozliší, jestli to tak je. Je tak opravdu nutné snažit se vynutit odpovědnost od těch stran, které tento prostor vysloveně ovládají.“
Kartous rád používá příměry, hrozbu AI a deepfakes tak přirovnává k intenzifikaci průmyslové výroby, u které se nakonec způsob regulace našel, takže provozovatelé byli donuceni nevypouštět jedy do vody, vzduchu, půdy.
„V krizových situacích, jakou byl začátek války na Ukrajině, došlo k tomu, že byly některé zdroje informací na čas eliminovány, a to proto, že by mohly šířit nepřátelskou propagandu. To je stejné jako s tím jedem zamořujícím vzduch. Měli bychom jít stejnou cestou.“
„A stanovení hranice, která se musí otestovat, zamezí tomu, aby byl náš svobodný prostor zneužíván těmi, kteří si rozhodně nepřejí podporu hodnotově založené demokracie. To je cesta. Vedle toho jsou tady i dlouhodobé cíle v podobě udržování hodnotové homogenity společnosti. A to se dá dělat nejlépe ve vzdělávacím systému.“
„Už dnes také existují technologie, které dokážou označovat produkty softwaru postaveného na AI tak, aby bylo jasné, že jde o produkt umělé inteligence. Když to pak firmy implementují do svých nástrojů, tak to je to, čemu říkám regulace. A je to stejné jako ten filtr na komínu, kterým chráníme vzduch před jedem.“
1673
Diskuse