"Evangelium": jak Izrael využívá umělou inteligenci k výběru cílů bombardování v Gaze

2. 12. 2023

 
IDF si již dlouho vylepšují svou pověst technické zdatnosti a již dříve vyslovily odvážná, ale neověřitelná tvrzení o využití nových technologií. Po jedenáctidenní válce v Gaze v květnu 2021 představitelé uvedli, že Izrael vedl svou "první válku s umělou inteligencí" s využitím strojového učení a pokročilých počítačů.

Poslední válka mezi Izraelem a Hamásem poskytla IDF bezprecedentní příležitost využít tyto nástroje v mnohem širším operačním prostoru a zejména nasadit platformu pro tvorbu cílů pomocí umělé inteligence zvanou "Evangelium", která výrazně urychlila smrtící výrobní linku cílů, kterou úředníci přirovnávají k "továrně".
.
Pomalu se vynořující obraz toho, jak izraelská armáda využívá umělou inteligenci, přichází na pozadí rostoucích obav z rizik, která představují pro civilní obyvatelstvo, zatímco vyspělé armády po celém světě rozšiřují využívání složitých a nepřehledných automatizovaných systémů na bojišti.

"Ostatní státy se dívají a učí  se," řekl bývalý bezpečnostní úředník Bílého domu obeznámený s využíváním autonomních systémů americkou armádou.

Na začátku listopadu IDF uvedly, že jejich oddělení správy cílů identifikovalo "více než 12 000" cílů v Gaze.

Jeden z úředníků popsal postup této jednotky při zaměřování cílů: "Pracujeme nekompromisně na tom, abychom určili, kdo a co je nepřítel. Agenti Hamásu nejsou imunní - bez ohledu na to, kde se skrývají."

IDF uvedla, že "díky rychlému a automatickému získávání zpravodajských informací" vypracovává Evangelium doporučení k zaměření pro své výzkumníky "s cílem dosáhnout úplné shody mezi doporučením stroje a identifikací provedenou osobou".

Několik zdrojů obeznámených s procesy zaměřování cílů IDF potvrdilo existenci systému Evangelium a uvedlo, že byl používán k vytváření automatických doporučení pro útoky na cíle, jako jsou soukromé domy osob podezřelých z toho, že jsou členy Hamásu nebo Islámského džihádu.

V posledních letech pomohlo cílové oddělení IDF vytvořit databázi, která podle zdrojů čítala 30 000 až 40 000 podezřelých extremistů. Systémy, jako je Evangelium, podle nich hrály zásadní roli při vytváření seznamů osob k usmrcení.

Aviv Kochavi, který do ledna působil jako šéf IDF, uvedl, že cílové oddělení je "poháněno schopnostmi umělé inteligence" a zahrnuje stovky důstojníků a vojáků.

Podle Kochaviho "jakmile byl tento stroj aktivován" během jedenáctidenní války Izraele s Hamásem v květnu 2021, generoval 100 cílů denně. "Abych to uvedl na pravou míru, v minulosti jsme v Gaze zjišťovali 50 cílů ročně. Nyní tento stroj vyprodukuje 100 cílů za jediný den, přičemž 50 % z nich je bombardováno."

Není přesně známo, jaké formy dat jsou do  Evangelia přijímány. Odborníci však uvedli, že systémy na podporu rozhodování o cílení založené na umělé inteligenci obvykle analyzují velké soubory informací z různých zdrojů, jako jsou záběry z dronů, zachycené komunikace, údaje ze sledování a informace získané na základě sledování pohybu a vzorců chování jednotlivců a velkých skupin.

Oddělení cílů bylo vytvořeno s cílem vyřešit chronický problém IDF: při dřívějších operacích v Gaze letectvu opakovaně docházely cíle k úderům. Vzhledem k tomu, že vysocí představitelé Hamásu na začátku každé nové ofenzivy mizeli v tunelech, umožnily podle zdrojů systémy jako Gospel IDF lokalizovat a napadnout mnohem větší počet méně významných  operativců.

Jeden z představitelů, který pracoval na rozhodování o cílech v předchozích operacích v Gaze, uvedl, že IDF se dříve nezaměřovaly na bombardování domů nevýznamných členů Hamásu. Pro současný konflikt se to podle nich změnilo a nyní se útočí na domy podezřelých operativců Hamásu bez ohledu na jejich hodnost.

"Je to hodně domů," řekl úředník v rozhovoru pro +972/Local Call. "Členové Hamásu, kteří ve skutečnosti nic neznamenají, žijí v domech po celé Gaze. Takže označí dům, vybombardují ho a všechny tam zabijí."

Odborníci na umělou inteligenci a ozbrojené konflikty uvedli, že jsou skeptičtí k tvrzení, že systémy založené na umělé inteligenci snižují civilní škody tím, že podporují přesnější cílení.

Právník, který radí vládám v oblasti umělé inteligence a dodržování humanitárního práva, uvedl, že pro taková tvrzení existuje "málo empirických důkazů". Jiní poukazují na viditelný dopad bombardování.

"Podívejte se na fyzickou krajinu v Gaze," řekl Richard Moyes, výzkumný pracovník, který vede skupinu Article 36, jež vede kampaně za snížení škod způsobených zbraněmi.

"Jsme svědky rozsáhlého srovnávání městské oblasti se zemí těžkými výbušnými zbraněmi, takže tvrzení, že je vyvíjena přesná a úzká síla, není podloženo fakty."

Podle údajů, které IDF zveřejnily v listopadu, zaútočil Izrael během prvních 35 dnů války na 15 000 cílů v Gaze, což je číslo, které je výrazně vyšší než předchozí vojenské operace na hustě osídleném pobřežním území. Pro srovnání, ve válce v roce 2014, která trvala 51 dní, IDF zasáhly 5 000 až 6 000 cílů.

Několik zdrojů vypovědělo, že když byl schválen úder na soukromé domy osob, které byly identifikovány jako příslušníci Hamásu nebo Islámského džihádu, výzkumníci cílů předem znali počet civilistů, u nichž se očekávalo, že budou zabiti.

U každého cíle byl podle nich založen soubor obsahující skóre vedlejších škod, které určovalo, kolik civilistů bude při úderu pravděpodobně zabito.

Jeden ze zdrojů, který až do roku 2021 pracoval na plánování úderů pro IDF, uvedl, že "rozhodnutí o úderu přijímá velitel jednotky ve službě", přičemž někteří z nich "mají větší radost ze spouště než jiní".

Zdroj uvedl, že se vyskytly případy, kdy "existovaly pochybnosti o cíli" a "zabili jsme podle mého názoru nepřiměřené množství civilistů".

Zdroje obeznámené s tím, jak byly systémy založené na umělé inteligenci začleněny do operací IDF, uvedly, že tyto nástroje výrazně urychlily proces vytváření cílů.

"Cíle připravujeme automaticky a pracujeme podle kontrolního seznamu," uvedl zdroj, který dříve pracoval v cílovém oddělení. "Je to opravdu jako továrna. Pracujeme rychle a není čas se hlouběji zabývat cílem. Názor je takový, že jsme hodnoceni podle toho, kolik cílů se nám podaří vygenerovat."

Jiný zdroj i sdělil, že Evangelium umožnilo IDF provozovat "továrnu na masové vraždy", v níž se "klade důraz na kvantitu, a nikoli na kvalitu". Lidské oko si podle nich "před každým útokem projde cíle, ale nemusí nad nimi strávit mnoho času".

U některých odborníků, kteří se zabývají umělou inteligencí a mezinárodním humanitárním právem, vyvolává takové urychlení řadu obav.

Dr. Marta Bo, výzkumná pracovnice Stockholmského mezinárodního institutu pro výzkum míru, uvedla, že i když jsou "lidé v obraze", existuje riziko, že se u nich vyvine "automatizační předpojatost" a "příliš se spolehnou na systémy, které začnou mít příliš velký vliv na složitá lidská rozhodnutí".

Moyes z organizace Article 36 uvedl, že při spoléhání se na nástroje, jako je Gospel, je veliteli "předán seznam cílů, který vytvořil počítač", a on "nemusí nutně vědět, jak byl seznam vytvořen, ani nemá možnost doporučení k zacílení adekvátně přezkoumat a zpochybnit".

"Existuje nebezpečí," dodal, "že jakmile se lidé začnou spoléhat na tyto systémy, stanou se kolečky v mechanizovaném procesu a ztratí schopnost smysluplně zvážit riziko poškození civilního obyvatelstva."