„NAZA“ odhaluje slabé místo v amerických bezpečnostních zárukách pro zbraně s umělou inteligencí

18. 9. 2026

Izraelská vláda odmítla tvrzení, že její armáda použila umělou inteligenci k bezohlednému bombardování civilistů v Gaze. „Operační rozhodnutí se přijímají v rámci definované lidské velitelské struktury a podléhají lidskému úsudku a dohledu,“ uvedlo ministerstvo zahraničí na sociálních sítích.

NAZA je hebrejská zkratka pro vedlejší škody, což znamená odhadovaný počet civilních obětí, které budou způsobeny úderem na vojenský cíl. Jedním z tvrzení filmu je, že izraelské obranné síly (IDF) po 7. říjnu uvolnily své standardy týkající se přijatelné úrovně vedlejších škod v Gaze, čímž usnadnily spoléhání se na nedokonalá data o cílech generovaná systémy umělé inteligence, což přispělo k vysokému počtu civilních obětí v této enklávě.

„Izraelci ukázali, že i když jste informováni, co se děje, mohou tyto systémy exponenciálně zvýšit vaši schopnost systematicky porušovat mezinárodní právo a lidskou důstojnost lidí, proti kterým bojujete,“ řekl Noah Sylvia, výzkumný pracovník v Royal United Services Institute, londýnském think tanku zabývajícím se bezpečností.

Film „NAZA“, který o víkendu získal cenu poroty na filmovém festivalu v Benátkách, ale v Izraeli vyvolal kontroverzi a pobouření, vychází z reportáže Yuvala Abrahama, jednoho z tvůrců filmu, o tom, jak izraelská armáda využívala umělou inteligenci k identifikaci cílů v Gaze.

Podle této reportáže, z níž velká část vyšla v izraelském zpravodajském portálu +972, vojáci uvedli, že armáda použila umělou inteligenci k vytvoření rozsáhlého seznamu lidských cílů spojených s hnutím Hamás a Islámským džihádem, který byl sice přezkoumáván lidmi, často však pouze „během několika sekund“. Izraelská rozvědka ověřila seznam cílů vygenerovaný umělou inteligencí tak, že prověřila malý vzorek osob, které systém identifikoval, a zjistila, že 90 % z nich splňovalo standard Izraelských obranných sil pro příslušnost k Hamásu; účelem těchto prověrek bylo údajně pouze ověřit, zda se u osoby na seznamu cílů jedná o muže.

Většina bezpečnostních opatření pro zbraňové systémy poháněné umělou inteligencí v USA se zaměřuje pouze na zákaz plně automatizované technologie, o níž Abraham a „NAZA“ netvrdí, že je používána v Izraeli a v Gaze.

Když se společnost Anthropic dostala do sporu s Pentagonem ohledně toho, jak by její umělá inteligence mohla být využívána americkou armádou, debata se točila kolem otázky lidského zásahu. „Nevěříme, že dnešní nejmodernější modely umělé inteligence jsou dostatečně spolehlivé na to, aby byly použity v plně autonomních zbraních,“ napsala společnost Anthropic v únorovém blogovém příspěvku poté, co americký ministr obrany Pete Hegseth oznámil, že s toutofirmou přerušuje spolupráci.

(Federální soudce nedávno rozhodl, že Hegseth porušil zákon, když označil společnost Anthropic za riziko pro národní bezpečnost, ačkoli se očekává, že americká vláda se proti tomuto rozhodnutí odvolá.)

Legislativní opatření se rovněž zaměřila na hrozbu, že autonomní roboti budou na pokyn americké vlády zabíjet lidi. Skupina zákonodárců z obou stran v Kongresu předložila v červenci zákon o lidské kontrole nad autonomními zbraněmi (Human Authority over Autonomous Weapons Act) a klíčový senátní výbor se během léta přiklonil k požadavku na „konečnou lidskou odpovědnost za použití síly“.

Ale i kdyby byla tato ochranná opatření přijata, ponechávají prostor pro využití umělé inteligence k urychlení vojenských akcí způsobem, který umožňuje masové zabíjení civilistů. Vojáci, s nimiž Abraham vedl rozhovory, uvedli, že shromažďování cílů v takovém měřítku by bez umělé inteligence nebylo možné. „Jakmile přejdete na automatický režim, generování cílů se vymkne kontrole,“ uvedl jeden anonymní vyšší důstojník v článku pro +972.

Poslanec Don Beyer, demokrat z Virginie, který se podílel na předložení zákona o lidské kontrole nad autonomními zbraněmi, uvedl, že jedním z cílů zajištění lidské kontroly nad zbraněmi s umělou inteligencí je umožnit vyvození odpovědnosti v případě, že systém „poruší pravidla nasazení nebo zabije civilisty“.

„Můj návrh zákona by tento problém řešil, ale jak bohužel ilustruje chování izraelské vlády v Gaze, nejde o jediný problém,“ uvedl Beyer. „Přijetí zákona, který vyžaduje zodpovědnost za použití technologie, může v konečném důsledku fungovat pouze tehdy, pokud budou lidé skutečně voláni k zodpovědnosti.“

Beyer uvedl, že zodpovědnost za zabíjení civilistů v Gaze ze strany Izraelských obranných sil (IDF) byla „mimořádně vzácná“, a poukázal na podobné obavy ohledně americké armády, která útočí na civilní cíle v Íránu a zabíjí karibské rybáře při útocích, o nichž Bílý dům tvrdí, že mají za cíl zastavit pašování drog.

Trumpova administrativa se postavila proti různým mechanismům, které by armádu činily odpovědnou za zneužití moci, včetně uložení sankcí na úředníky spojené s Mezinárodním trestním soudem a zrušení nařízení, které vyžaduje, aby federální vláda podávala zprávy o porušování mezinárodního práva spáchaném zbraněmi dodanými USA.

Antony Loewenstein, novinář a autor knihy „The Palestine Laboratory“, souhlasil s tím, že odpovědnost za izraelská porušení zákona v Gaze je jediným mechanismem, který by mohl zajistit, aby jiné země nenásledovaly izraelský model využívání umělé inteligence k vytvoření rámce pro dosažení vojenských cílů, které jsou podle mezinárodního práva zakázány.

„Pokud nikdo nestaví izraelské zpravodajské důstojníky nebo úředníky před soud, proč by se jiné země neměly inspirovat právě Izraelem?“ uvedl v rozhovoru Loewenstein, jehož kniha upozorňuje, že Izrael využil Západní břeh a Gazu jako testovací pole pro nové vojenské technologie. „Jinak uvidíte, jak mnoho dalších armád nasadí pozoruhodně podobnou technologii a bude využívat umělou inteligenci jako zástěrku k páchání masového ničení.“

Zdroj v angličtině ZDE