Proč začíná britská vláda razantně jednat ve věci umělé inteligence
27. 5. 2023
"Svět musí postupovat rychleji," říká Shabbir Merali, politický pracovník britského středopravicového thinktanku Onward. "Pokud to neuděláme, hrozí, že se stane něco strašného a celá věc exploduje."
Odborníci varují, že existují krátkodobá rizika, například že je studenti využijí k podvádění při zkouškách, že je kandidáti ve volbách využijí k dezinformacím nebo že je firmy využijí k diskriminačním rozhodnutím při přijímání zaměstnanců, aniž by si to uvědomovaly.
Technologie se také může jednoduše splést: loni byl v jedné newyorské škole pobodán student, přestože škola používala detekci zbraní pomocí umělé inteligence.
Pak je tu velká dlouhodobá obava: co když umělá inteligence začne mít vlastní vědomí?
Regulace takto rychle se rozvíjejícího odvětví bude pravděpodobně obtížná, ale určité zásady lze uzákonit.
Firmy, které používají velké soubory dat k výcviku svých nástrojů AI, by například mohly být nuceny sdílet informace s vládními agenturami. Mohly by být také nuceny najímat "červené týmy" externích odborníků, kteří by předstírali, že jsou škodlivými aktéry, a zkoušeli by, jak by mohla být technologie zneužita. Lidé, kteří pracují na zvláště citlivých technologiích, by mohli být povinni podepsat dohody, že je nezpřístupní určitým skupinám nebo vládám.
Je zde také otázka odpovědnosti. Ministři možná budou muset brzy rozhodnout, kdo by měl nést odpovědnost v případě, že se s určitým produktem něco pokazí: uživatel nebo vývojář?
Nic z toho však nefunguje pouze na národní úrovni, vzhledem k tomu, že vývojáři se mohou snadno usadit kdekoli na světě.
Vládní inspektoři konstatují, že premiérSunak chce zejména prozkoumat, jakou roli může Spojené království hrát při formulování mezinárodního souboru pokynů, který by aktualizoval stávající pokyny vypracované organizací UNESCO v roce 2021. Nechtěli však říci, zda podporuje myšlenku Sama Altmana, generálního ředitele zakladatelské společnosti ChatGPT OpenAI, na vytvoření mezinárodní agentury po vzoru Mezinárodní agentury pro atomovou energii.
V nejbližší době úřad britského premiéra neplánuje navýšit zdroje stávajících regulačních orgánů pro monitorování AI. Průzkum labouristů však naznačuje, že takový krok by mohl být potřebný: v nedávné parlamentní odpovědi nebyl ministr pro technologie Paul Scully ani schopen říci, kolik zaměstnanců v různých britských dozorových orgánech pracuje zcela nebo částečně na AI.
Mnozí se však domnívají, že stávající regulační rámec se rychle ukáže jako zastaralý. Phillips vyzval vládu, aby vytvořila vlastní výzkumnou a vývojovou složku AI, která by tomuto odvětví lépe porozuměla. "Potřebujete lidi, kteří této technologii zásadně a do hloubky rozumí, a to lze jen s lidmi, kteří ji sami vytvořili," říká.
Diskuse