K regulaci umělé inteligence potřebujeme nové zákony
29. 10. 2018
Mark Zuckerberg patří k miniaturní skupince osob, které globálně rozhodují a utvářejí svět, v němž se spojuje lidská a umělá inteligence za účelem shromažďování a využívání osobních informací miliard lidí. Komisaři Evropské unie pro ochranu dat a pro soukromí patří k nejlepším zástupcům veřejnosti, kteří by měli vést s Zuckerbergem smysluplnou debatu.
Britská Royal Society právě vydala novou publikaci o etických a právních výzvách spojených se vznikem umělé inteligence. Jeden příspěvek je od vysokého činitele Evropské komise, Paula Nemitze, jednoho z tvůrců GDPR, která vešla v platnost letos v květnu.
"Potřebujeme novou kulturu technologického a podnikatelského rozvoje pro éru umělé inteligence, kterou nazýváme 'vládou zákona, demokracie a lidských práv následkem úmyslu,'" píše Nemitz. Tyto základní myšlenky musejí být hluboce včleněny do umělé inteligence, protože vstupujeme do "světa, v němž technologie jako umělá inteligence budou všudypřítomné a budou přejímat a vykonávat pravidla, podle nichž my žijeme".
Nemitz varuje, že dosavadní absence tohoto rámce regulujícího internetovou ekonomiku už vedla k širokému ignorování zákona a ohrozila demokracii. Skandál kolem Facebooku a firmy Cambridge Analytica je jen jedním z celé řady takových skandálů, které by nás měly probudit.
Nemitz identifikuje čtyři základny digitální moci, která vytváří a pak posiluje svou nezdravou koncentraci v několika málou rukou:
- množství peněz, což znamená vliv
- nadvládu nad "infrastrukturami veřejného diskursu"
- shromažďování osobních dat a vytváření osobních profilů lidí
- dominance investic do umělé inteligence, většinou do "černých skříněk", projektů, které nejsou otevřeny veřejné kontrole.
Většina nové regulace bude muset být definována zákonem.
Nemitz argumentuje, že "neregulovat tyto všudypřítomné a často rozhodující technologie zákonem by znamenalo konec demokracie. Demokracie nesmí tento problém zanedbat, zvlášť v době, kdy je pod tlakem od populistů a od diktatur."
Celkově se Nemitzova argumentace váže na dobře definované právní zásady. Například:
- umělá inteligence, která činí rozhodnutí ovlivňující život lidí ovlivňuje život lidí, musí pro ně poskytnout srozumitelné důvody
- když se stroj bude podílet na komunikaci s člověkem v politickém diskursu, stroj musí být podroben zákonné povinnosti informovat, že je to stroj
- umělá inteligence, která používá pravidla, musí být podrobena stejným zkouškám, které se používají k rozhodování, zda zákony samy jsou legitimní, tedy zda odpovídají základním právům, profesionálním právním procesům a proporcionalitě.
Podle Nemitze jsou toto způsoby, jak může umělá inteligence získat důvěru k tomu, aby byla široce přijímána společností.
Podrobnosti v angličtině ZDE
https://www.theguardian.com/commentisfree/2018/oct/28/regulate-ai-new-laws-code-of-ethics-technology-power
Diskuse