"AI to udělala chladnokrevně." Izrael použil umělou inteligenci k identifikaci 37 000 cílů Hamásu
3. 4. 2024
Izraelské zpravodajské zdroje odhalily použití systému "Lavender" ve válce v Gaze a sdělují, že při pronásledování nízko postavených bojovníků bylo vydáno povolení k zabíjení civilistů
Podle zpravodajských zdrojů zapojených do války izraelská armáda při bombardovací kampani v Gaze použila dosud nezveřejněnou databázi poháněnou umělou inteligencí, která v jedné fázi identifikovala 37 000 potenciálních cílů na základě jejich zjevných vazeb na Hamás.
Zpravodajské zdroje kromě toho, že hovoří o používání systému umělé inteligence nazvaného Lavender, sdělují, že izraelští vojenští představitelé umožnili zabití velkého počtu palestinských civilistů, zejména v prvních týdnech a měsících konfliktu.
Jejich neobvykle upřímná svědectví poskytují vzácný pohled na přímé zkušenosti izraelských zpravodajských pracovníků, kteří během šestiměsíční války využívali systémy strojového učení k identifikaci cílů.
Využívání výkonných systémů umělé inteligence Izraelem ve válce proti Hamásu vstoupilo na dosud neprobádané území pokročilého válčení, vyvolalo řadu právních a morálních otázek a změnilo vztah mezi vojenským personálem a stroji.
"Tohle nemá obdoby, co si pamatuji," řekl jeden z důstojníků zpravodajských služeb, kteří Lavender používali, a dodal, že více věřili "statistickému mechanismu" než truchlícímu vojákovi. "Všichni tam, včetně mě, přišli 7. října po lidi. Stroj to udělal chladně. A tím to bylo jednodušší."
Jiný uživatel Lavenderu zpochybnil smysluplnost role člověka při volbě vojenských cílů. "V této fázi bych do každého cíle investoval 20 vteřin a dělal jich denně desítky. Jako člověk jsem měl nulovou přidanou hodnotu, kromě toho, že jsem byl schvalovacím razítkem. Ušetřilo to spoustu času."
Svědectví šesti zpravodajských důstojníků, kteří se všichni podíleli na využívání systémů umělé inteligence k identifikaci cílů Hamásu a Palestinského islámského džihádu (PIJ) ve válce, bylo poskytnuto novináři Yuvalu Abrahamovi pro reportáž zveřejněnou izraelsko-palestinskou publikací +972 Magazine a hebrejskojazyčným výstupem Local Call.
Všech šest osob uvedlo, že Lavender hrál ve válce ústřední roli, neboť zpracovával množství dat, aby mohl rychle identifikovat potenciální "nevýznamné" aktivisty, na které se měl zaměřit. Čtyři z těchto zdrojů uvedly, že v jedné fázi na počátku války Lavender evidoval až 37 000 palestinských mužů, kteří byli systémem umělé inteligence napojeni na Hamás nebo PIJ.
Lavender vyvinula elitní zpravodajská divize Izraelských obranných sil, jednotka 8200, která je srovnatelná s americkou Národní bezpečnostní agenturou nebo britskou GCHQ.
Několik zdrojů popsalo, že pro určité kategorie cílů uplatňovaly IDF předem schválené přípustné počty civilistů, kteří by mohli být zabiti.
Dva zdroje uvedly, že v prvních týdnech války bylo při útocích na nízko postavené bojovníky povoleno zabít 15 až 20 civilistů. Zdroje uvedly, že útoky na takové cíle byly obvykle prováděny neřízenou municí známou jako "hloupé bomby", která ničila celé domy a zabíjela všechny jejich obyvatele.
"Nechcete plýtvat drahými bombami na nedůležité lidi - pro zemi je to velmi drahé a je jich [těchto bomb] nedostatek," řekl jeden z důstojníků zpravodajských služeb. Jiný uvedl, že hlavní otázkou, před kterou stojí, je, zda "vedlejší škody" na civilistech dovolují útok.
"Protože jsme obvykle prováděli útoky hloupými bombami, a to znamenalo doslova shodit celý dům na jeho obyvatele. Ale i když je útok zrušen, je vám to jedno - okamžitě přejdete k dalšímu cíli. Kvůli systému cílů je vždycky dost. Čeká vás dalších 36 000."
Podle odborníků na konflikt, pokud Izrael používal hloupé bomby k tomu, aby srovnal se zemí domy tisíců Palestinců, kteří byli s podle AI napojeni na militantní skupiny v Gaze, mohlo by to pomoci vysvětlit šokující vysoký počet obětí války.
Ministerstvo zdravotnictví na území ovládaném Hamásem uvádí, že za posledních šest měsíců bylo v konfliktu zabito 32 000 Palestinců. Údaje OSN ukazují, že jen během prvního měsíce války utrpělo 1 340 rodin několikanásobnou ztrátu, přičemž 312 rodin přišlo o více než 10 členů.
V reakci na zveřejnění svědectví v časopisech +972 a Local Call IDF ve svém prohlášení uvedly, že jejich operace byly provedeny v souladu s pravidly přiměřenosti podle mezinárodního práva. Uvedly, že hloupé bomby jsou "standardní výzbrojí", kterou piloti IDF používají způsobem zajišťujícím "vysokou úroveň přesnosti".
Lavender vytvořil databázi desítek tisíc osob.
V dřívějších vojenských operacích prováděných IDF bylo vytváření lidských cílů často pracnějším procesem. Několik zdrojů, které popsaly vývoj cílů v předchozích válkách, uvedlo, že rozhodnutí o "obvinění" jednotlivce nebo o jeho identifikaci jako legitimního cíle bývalo projednáno a následně podepsáno právním poradcem.
V týdnech a měsících po 7. říjnu se podle těchto zdrojů tento model schvalování úderů na lidské cíle dramaticky zrychlil. Jak se podle nich zintenzivňovalo bombardování Gazy ze strany IDF, velitelé požadovali nepřetržitý přísun cílů.
"Neustále na nás tlačili: 'Dejte nám další cíle'. Opravdu na nás křičeli," uvedl jeden ze zpravodajských důstojníků. "Říkali nám: Teď musíme zničit Hamás, ať to stojí, co to stojí. Cokoli můžete, to bombardujte."
Při plnění tohoto požadavku se IDF začaly do značné míry spoléhat na Lavender, který vytvářel databázi osob, o nichž se soudilo, že mají vlastnosti bojovníka PIJ nebo Hamásu.
Podrobnosti o konkrétních druzích údajů použitých k tréninku algoritmu Lavenderu ani o tom, jak program dospěl ke svým závěrům, nejsou ve zprávách, které zveřejnil server +972 nebo Local Call, uvedeny. Zdroje však uvedly, že během několika prvních týdnů války jednotka 8200 algoritmus Lavenderu zdokonalila a upravila jeho vyhledávací parametry.
Po náhodném výběru vzorků a křížové kontrole předpovědí dospěla jednotka k závěru, že Lavender dosáhl 90% přesnosti, uvedly zdroje, což vedlo IDF ke schválení jeho rozsáhlého používání jako nástroje pro doporučování cílů.
Lavender vytvořil databázi desítek tisíc osob, které byly označeny jako převážně nízko postavení členové vojenského křídla Hamásu. Ta byla použita spolu s dalším systémem na podporu rozhodování založeným na umělé inteligenci, nazvaným Gospel, který jako cíle doporučoval spíše budovy a stavby než jednotlivce.
Výpovědi obsahují svědectví z první ruky o tom, jak zpravodajští důstojníci spolupracovali s Lavenderem a jak bylo možné upravit dosah jeho vlečné sítě. "Na svém vrcholu dokázal systém vygenerovat 37 000 lidí jako potenciální lidské cíle," uvedl jeden ze zdrojů. "Čísla se ale neustále měnila, protože záleželo na tom, kde si nastavíte laťku toho, co je to agent Hamásu."
Dodali: "Byly doby, kdy byl operativec Hamásu definován šířeji, a pak nám stroj začal přinášet nejrůznější pracovníky civilní obrany, policisty, na které by byla škoda plýtvat bombami. Pomáhají vládě Hamásu, ale ve skutečnosti vojáky neohrožují."
Před válkou odhadovaly USA a Izrael členství ve vojenském křídle Hamásu na přibližně 25-30 000 osob.
V týdnech po útoku na jižní Izrael vedeném Hamásem ze 7. října, při němž palestinští ozbrojenci zabili téměř 1 200 Izraelců a unesli asi 240 lidí, došlo podle zdrojů k rozhodnutí považovat palestinské muže napojené na vojenské křídlo Hamásu za potenciální cíle bez ohledu na jejich hodnost nebo význam.
Podle nich byly také uvolněny postupy IDF při zaměřování cílů v nejintenzivnější fázi bombardování. "Existovala zcela liberální politika, pokud jde o oběti [bombardovacích] operací," uvedl jeden ze zdrojů. "Politika tak liberální, že podle mého názoru obsahovala prvek pomsty."
Jiný zdroj, který ospravedlňoval použití Lavenderu, aby pomohl identifikovat nízko postavené cíle, uvedl, že "když jde o nevýznamného bojovníka, nechcete do toho investovat lidské zdroje a čas". Ve válečné době prý není dostatek času na pečlivé "usvědčení každého cíle".
Svědectví, která zveřejnily časopisy +972 a Local Call, vysvětlují, jak západní armáda s tak pokročilými schopnostmi, se zbraněmi, které mohou provádět vysoce chirurgické údery, vedla válku s tak obrovskými lidskými ztrátami.
Pokud jde o útoky na nízko postavené podezřelé osoby z Hamásu a PIJ, přednostně se na ně útočilo, když se předpokládalo, že jsou doma. "Neměli jsme zájem zabíjet operativce [Hamásu] pouze tehdy, když byli ve vojenské budově nebo zapojeni do vojenské činnosti," řekl jeden z nich. "Je mnohem snazší bombardovat rodinný dům. Systém je postaven tak, aby je v těchto situacích hledal."
Taková strategie představuje riziko vyššího počtu civilních obětí a zdroje uvedly, že IDF stanovily předem schválené limity počtu civilistů, které považovaly za přijatelné pro zabití při úderu zaměřeném na jednoho bojovníka Hamásu. Tento poměr se prý v průběhu času měnil a lišil se podle vyššího postavení cíle.
Podle serverů +972 a Local Call považovaly IDF za přípustné zabít při útoku na vysoce postaveného představitele Hamásu více než 100 civilistů. "Měli jsme výpočet, kolik [civilistů lze zabít] pro velitele brigády, kolik [civilistů] pro velitele praporu a tak dále," uvedl jeden ze zdrojů.
"Existovaly předpisy, ale byly jen velmi mírné," dodal další. "Zabíjeli jsme lidi jako 'vedlejší škody' ve vysokých dvouciferných, ne-li nízkých trojciferných číslech. To jsou věci, které se dříve nestávaly." Zdá se, že v různých fázích války docházelo ke značným výkyvům v počtu, který vojenští velitelé tolerovali.
Jeden ze zdrojů uvedl, že hranice povolených civilních obětí se v průběhu času "zvyšovala a snižovala" a v jednu chvíli činila pouhých pět. Během prvního týdne konfliktu bylo podle tohoto zdroje povoleno zabít 15 nebojujících osob, aby byli zlikvidováni nevýznamní bojovníci v Gaze. Odhady civilních obětí jsou však podle nich nepřesné, protože není možné s konečnou platností zjistit, kolik lidí se v budově nachází.
Jiný zpravodajský důstojník uvedl, že v nedávné době v konfliktu se míra povolených vedlejších škod opět snížila. V jedné fázi na počátku války však bylo povoleno zabít až "20 nezúčastněných civilistů" na jednoho operativce, bez ohledu na jejich hodnost, vojenský význam nebo věk.
"Nejde jen o to, že můžete zabít jakoukoli osobu, která je vojákem Hamásu, což je z hlediska mezinárodního práva jasně povoleno a legitimní," uvedli. "Ale oni vám přímo říkají: Je vám dovoleno je zabíjet spolu s mnoha civilisty." Říkají, že se to smí. ... V praxi kritérium přiměřenosti neexistovalo."
V prohlášení IDF se uvádí, že její postupy "vyžadují provedení individuálního posouzení předpokládané vojenské výhody a očekávaných vedlejších škod ... IDF neprovádí údery, pokud jsou očekávané vedlejší škody z úderu nadměrné ve vztahu k vojenské výhodě". Dodává: "IDF jednoznačně odmítají tvrzení týkající se jakékoli politiky zabíjení desítek tisíc lidí v jejich domovech."
Odborník na mezinárodní právo z amerického ministerstva zahraničí uvedl, že "nikdy ani vzdáleně neslyšel o tom, že by poměr jedna ku patnácti byl považován za přijatelný, zejména u bojovníků nižší úrovně. Je zde velká volnost, ale tohle mi připadá extrémní".
Sarah Harrisonová, bývalá právnička na americkém ministerstvu obrany, nyní analytička Crisis Group, uvedla: "I když mohou existovat určité případy, kdy by 15 vedlejších úmrtí civilistů mohlo být přiměřených, jsou jiné případy, kdy by to přiměřené rozhodně nebylo. Nemůžete prostě stanovit únosné číslo pro určitou kategorii cílů a říci, že to bude v každém případě právně přiměřené."
Ať už je právní či morální ospravedlnění izraelské strategie bombardování jakékoli, někteří zpravodajští důstojníci nyní zřejmě zpochybňují přístup stanovený jejich veliteli. "Nikdo nepřemýšlel o tom, co dělat potom, až válka skončí, nebo jak bude možné v Gaze žít," řekl jeden z nich.
Diskuse