K regulaci umělé inteligence potřebujeme nové zákony

29. 10. 2018


Mark Zuckerberg patří k miniaturní skupince osob, které globálně rozhodují a utvářejí svět, v němž se spojuje lidská a umělá inteligence za účelem shromažďování a využívání osobních informací miliard lidí. Komisaři Evropské unie pro ochranu dat a pro soukromí patří k nejlepším zástupcům veřejnosti, kteří by měli vést s Zuckerbergem smysluplnou debatu.

Britská Royal Society právě vydala novou publikaci o etických a právních výzvách spojených se vznikem umělé inteligence. Jeden příspěvek je od vysokého činitele Evropské komise, Paula Nemitze, jednoho z tvůrců GDPR, která vešla v platnost letos v květnu.



"Potřebujeme novou kulturu technologického a podnikatelského rozvoje pro éru umělé inteligence, kterou nazýváme 'vládou zákona, demokracie a lidských práv následkem úmyslu,'" píše Nemitz. Tyto základní myšlenky musejí být hluboce včleněny do umělé inteligence, protože vstupujeme do "světa, v němž technologie jako umělá inteligence budou všudypřítomné a budou přejímat a vykonávat pravidla, podle nichž my žijeme".

Nemitz varuje, že dosavadní absence tohoto rámce regulujícího internetovou ekonomiku už vedla k širokému ignorování zákona a ohrozila demokracii. Skandál kolem Facebooku a firmy Cambridge Analytica je jen jedním z celé řady takových skandálů, které by nás měly probudit.

Nemitz identifikuje čtyři základny digitální moci, která vytváří a pak posiluje svou nezdravou koncentraci v několika málou rukou:

- množství peněz, což znamená vliv
- nadvládu nad "infrastrukturami veřejného diskursu"
- shromažďování osobních dat a vytváření osobních profilů lidí
- dominance investic do umělé inteligence, většinou do "černých skříněk", projektů, které nejsou otevřeny veřejné kontrole.

Většina nové regulace bude muset být definována zákonem.

Nemitz argumentuje, že "neregulovat tyto všudypřítomné a často rozhodující technologie zákonem by znamenalo konec demokracie. Demokracie nesmí tento problém zanedbat, zvlášť v době, kdy je pod tlakem od populistů a od diktatur."

Celkově se Nemitzova argumentace váže na dobře definované právní zásady. Například:

- umělá inteligence, která činí rozhodnutí ovlivňující život lidí ovlivňuje život lidí, musí pro ně  poskytnout srozumitelné důvody

- když se stroj bude podílet na komunikaci s člověkem v politickém diskursu, stroj musí být podroben zákonné povinnosti informovat, že je to stroj

- umělá inteligence, která používá pravidla, musí být podrobena stejným zkouškám, které se používají k rozhodování, zda zákony samy jsou legitimní, tedy zda odpovídají základním právům, profesionálním právním procesům a proporcionalitě.

Podle Nemitze jsou toto způsoby, jak může umělá inteligence získat důvěru k tomu, aby byla široce přijímána společností.

Podrobnosti v angličtině ZDE

https://www.theguardian.com/commentisfree/2018/oct/28/regulate-ai-new-laws-code-of-ethics-technology-power

0
Vytisknout
1950

Diskuse

Obsah vydání | 1. 11. 2018