Ізраїль за допомогою ШІ ідентифікував 37 000 цілей ХАМАС
Ізраїльська армія в кампанії бомбардування Гази використовувала раніше нерозголошену базу даних на основі штучного інтелекту, яка на одному етапі ідентифікувала 37 000 потенційних цілей на основі їхніх очевидних зв’язків з ХАМАС, згідно з джерелами в розвідці, залученими у війну.
На додаток до розмов про використання ними системи штучного інтелекту під назвою Lavender, джерела в розвідці стверджують, що ізраїльські військові чиновники дозволили вбити велику кількість палестинських мирних жителів, особливо в перші тижні та місяці конфлікту .
Їхні надзвичайно відверті свідчення дають рідкісне уявлення про досвід співробітників ізраїльської розвідки з перших рук, які використовували системи машинного навчання для виявлення цілей під час шестимісячної війни.
Використання Ізраїлем потужних систем штучного інтелекту у війні проти ХАМАС вийшло на незвідану територію для передових бойових дій, порушуючи безліч юридичних і моральних питань і змінюючи відносини між військовим персоналом і машинами.
«Як на моїй пам’яті, це не має собі рівних», — сказав один офіцер розвідки, який використовував Lavender, додавши, що вони більше вірили в «статистичний механізм», ніж у скорботного солдата. «Там усі, включно зі мною, 7 жовтня втратили людей. Машина зробила це холодно. І це полегшило роботу».
Інший користувач Lavender засумнівався, чи роль людей у процесі відбору має сенс. «На цьому етапі я б витратив 20 секунд на кожну ціль і виконував десятки таких щодня. Я не мав жодної додаткової вартості як людини, окрім того, що я був печаткою схвалення. Це заощадило багато часу».
Їхні звіти були ексклюзивно надані Guardian перед публікацією. Усі шестеро сказали, що Лаванда відіграла центральну роль у війні, обробляючи маси даних, щоб швидко ідентифікувати потенційних «молодших» оперативників, на яких вони будуть спрямовані. Чотири джерела сказали, що на одному з етапів початку війни Лаванда перерахувала аж 37 000 палестинських чоловіків, які були пов’язані системою штучного інтелекту з ХАМАС або PIJ.
Lavender був розроблений елітним розвідувальним підрозділом Армії оборони Ізраїлю, Unit 8200, який можна порівняти з Агентством національної безпеки США або GCHQ у Великобританії.
Декілька джерел описали, як для певних категорій цілей ЦАХАЛ застосовував попередньо дозволені надбавки щодо розрахункової кількості цивільних осіб, які могли бути вбиті до того, як було дозволено удар.
Два джерела повідомили, що в перші тижні війни їм дозволили вбити 15 або 20 мирних жителів під час авіаударів по бойовиках нижчого рангу. За словами джерел, напади на такі цілі зазвичай здійснювалися з використанням некерованих боєприпасів, відомих як «тупі бомби», які руйнували цілі будинки та вбивали всіх мешканців.
«Ви не хочете витрачати дорогі бомби на неважливих людей – це дуже дорого для країни, і існує дефіцит [цих бомб]», – сказав один офіцер розвідки. Інший сказав, що головне питання, з яким вони зіткнулися, полягало в тому, чи дозволив «побічний збиток» цивільним особам атаку.
«Тому що ми зазвичай здійснювали атаки глухими бомбами, а це означало буквально скинути весь будинок на його мешканців. Але навіть якщо атаку вдалося відвернути, вам все одно – ви відразу переходите до наступної цілі. Завдяки системі цілі ніколи не закінчуються. У вас ще 36 000 чекають».
За словами експертів з конфліктів, якщо Ізраїль використовував глухі бомби, щоб зруйнувати будинки тисяч палестинців, які були пов’язані, за сприяння ШІ, з групами бойовиків у Газі , це може допомогти пояснити шокуюче високу кількість загиблих у війні.
Міністерство охорони здоров'я на території, контрольованій ХАМАСом, повідомляє, що за останні шість місяців під час конфлікту було вбито 33 000 палестинців. За даними ООН , тільки за перший місяць війни 1340 сімей зазнали численних втрат, з них 312 сімей втратили понад 10 осіб.
Відповідаючи на публікацію свідчень у +972 і Local Call, ЦАХАЛ заявив у заяві, що його операції проводилися відповідно до норм пропорційності згідно з міжнародним правом. У ньому сказано, що глухі бомби є «стандартною зброєю», яка використовується пілотами ЦАХАЛу таким чином, щоб забезпечити «високий рівень точності».
У заяві описується Lavender як база даних, яка використовується «для перехресних посилань на джерела розвідки, щоб отримати оновлені рівні інформації про військових оперативників терористичних організацій». Це не список підтверджених військових оперативників, які мають право атакувати.
«ЦАХАЛ не використовує систему штучного інтелекту, яка ідентифікує терористів або намагається передбачити, чи є особа терористом», – додали в ньому. «Інформаційні системи — це лише інструменти для аналітиків у процесі визначення цілей».
Лаванда створила базу даних з десятків тисяч осіб
У попередніх військових операціях, які проводила ЦАХАЛ, виготовлення людських цілей часто було більш трудомістким процесом. Численні джерела, які описували Guardian розробку мішеней у попередніх війнах, сказали, що рішення «звинуватити» особу або ідентифікувати її як законну ціль буде обговорено, а потім підписано юрисконсультом.
Згідно з джерелами, протягом тижнів і місяців після 7 жовтня ця модель для схвалення ударів по людських цілях була значно прискорена. За їхніми словами, у міру посилення бомбардування Сектору оборони Ізраїлю Гази командири вимагали безперервного обстрілу цілей.
«На нас постійно тиснули: «Принесіть нам більше цілей». Вони дійсно кричали на нас», – сказав один з офіцерів розвідки. «Нам сказали: тепер ми маємо розвалити ХАМАС, незалежно від ціни. Усе, що можеш, бомбиш».
Щоб задовольнити цю вимогу, ЦАХАЛ значною мірою покладався на Лаванду для створення бази даних осіб, які, як вважають, мають ознаки бойовиків PIJ або ХАМАС.
Подробиці про конкретні типи даних, які використовуються для навчання алгоритму Лаванди, або про те, як програма дійшла до своїх висновків, не включені в облікові записи, опубліковані +972 або Local Call. Однак джерела повідомили, що протягом перших кількох тижнів війни Unit 8200 удосконалив алгоритм Lavender і налаштував його параметри пошуку.
Після випадкової вибірки та перехресної перевірки своїх прогнозів підрозділ дійшов висновку, що Lavender досяг 90% точності, повідомили джерела, що призвело до того, що IDF схвалив його широке використання як інструмент рекомендації щодо цілей.
Вони додали, що Lavender створив базу даних із десятків тисяч осіб, які були позначені як члени переважно низького рангу військового крила ХАМАС. Це використовувалося разом з іншою системою підтримки прийняття рішень на основі штучного інтелекту під назвою Gospel , яка рекомендувала будівлі та споруди як цілі, а не окремих людей.
Розповіді включають свідчення з перших рук про те, як офіцери розвідки працювали з Lavender і як можна було регулювати охоплення її мережі. «На піку свого розвитку системі вдалося створити 37 000 людей як потенційні людські мішені», — сказало одне з джерел. «Але цифри постійно змінювалися, тому що це залежить від того, де ви встановлюєте планку того, що таке оперативник ХАМАС».
Вони додали: «Були часи, коли оперативник ХАМАС визначали ширше, а потім машина почала привозити до нас різного роду персонал цивільної оборони, поліцейських, на яких було б соромно витрачати бомби. Вони допомагають уряду ХАМАС, але насправді не загрожують солдатам».
Перед війною США та Ізраїль оцінювали членство військового крила ХАМАС приблизно в 25-30 тис. осіб.
Через кілька тижнів після нападу ХАМАС на південь Ізраїлю 7 жовтня, під час якого палестинські бойовики вбили майже 1200 ізраїльтян і викрали близько 240 осіб, джерела заявили, що було прийнято рішення розглядати палестинських чоловіків, пов’язаних з військовим крилом ХАМАС, як потенційні мішені, незважаючи на це. їх рангу чи важливості.
За їх словами, процеси націлювання ЦАХАЛом на найінтенсивнішій фазі обстрілу також були послаблені. «Існувала абсолютно поблажлива політика щодо втрат під час [бомбардувань]», — сказало одне джерело. «Політика настільки вседозволена, що, на мій погляд, у ній був елемент помсти».
Інше джерело, яке виправдовувало використання Lavender для виявлення цілей низького рангу, повідомило, що «коли йдеться про молодшого бойовика, ви не хочете вкладати в нього живу силу та час». Мовляв, у воєнний час не вистачає часу, щоб ретельно «інкримінувати кожну ціль».
«Тож ви готові взяти на себе похибку використання штучного інтелекту, ризикуючи супутніми збитками та загибеллю мирних жителів, ризикуючи атакувати помилково, і жити з цим», – додали вони.
«Набагато легше розбомбити сімейний будинок»
Свідчення, опубліковані +972 і Local Call, можуть пояснити, як така західна армія з такими передовими можливостями, зі зброєю, яка може наносити надзвичайно хірургічні удари, веде війну з такими величезними людськими жертвами.
Коли справа дійшла до нападу на низькопоставлених підозрюваних у ХАМАС і ІДІ, вони сказали, що перевагу було атакувати, коли вони, як вважають, були вдома. «Ми не були зацікавлені в тому, щоб вбивати бойовиків [ХАМАС] лише тоді, коли вони перебували у військовій будівлі або брали участь у військовій діяльності», — сказав один. «Набагато легше розбомбити сімейний будинок. Система створена, щоб шукати їх у таких ситуаціях».
Така стратегія ризикувала збільшити кількість втрат серед цивільного населення, і джерела сказали, що ЦАХАЛ встановив попередньо дозволені обмеження на кількість цивільних осіб, яку вона вважала прийнятною для вбивства під час удару, спрямованого по одному бойовику ХАМАС. Кажуть, що співвідношення змінювалося з часом і змінювалося залежно від стажу цілі.
Згідно з +972 і Local Call, ЦАХАЛ визнав допустимим вбити більше 100 мирних жителів під час нападу на високопоставлених чиновників ХАМАС. «У нас був розрахунок, скільки [цивільних осіб могло бути вбито] для командира бригади, скільки [цивільних осіб] для командира батальйону і так далі», — сказало одне джерело.
«Були правила, але вони були дуже м’якими», – додав інший. «Ми вбивали людей із побічними збитками у високих двозначних цифрах, якщо не низьких тризначних цифрах. Це речі, яких раніше не було». Здається, на різних етапах війни були значні коливання в цифрі, яку військові командири терпіли.
Одне джерело повідомило, що ліміт допустимих втрат серед цивільного населення «збільшувався і знижувався» з часом, і в один момент був лише п’ятьма. Протягом першого тижня конфлікту, за словами джерела, було дано дозвіл вбити 15 некомбатантів, щоб вивести молодших бойовиків у Газі. Однак вони сказали, що оцінки жертв серед цивільного населення були неточними, оскільки неможливо точно знати, скільки людей було в будівлі.
Інший офіцер розвідки сказав, що нещодавно під час конфлікту рівень дозволеного супутнього збитку знову знизився. Але на одному з етапів війни їм було дозволено вбити до «20 незалучених цивільних осіб» за одного оперативника, незалежно від їхнього звання, військового значення чи віку.
«Справа не тільки в тому, що ви можете вбити будь-яку особу, яка є солдатом ХАМАС, що явно дозволено і законно з точки зору міжнародного права», — сказали вони. «Але вам прямо кажуть: «Вам дозволено вбивати їх разом з багатьма мирними жителями». … На практиці критерію пропорційності не існувало».
У заяві ЦАХАЛу сказано, що його процедури «вимагають проведення індивідуальної оцінки очікуваної військової переваги та очікуваного супутнього збитку... ЦАХАЛ не завдає ударів, якщо очікуваний супутній збиток від удару є надмірним по відношенню до військової переваги». У ньому додається: «ЦАХАЛ категорично відкидає претензії щодо будь-якої політики вбивства десятків тисяч людей у їхніх будинках».
Експерти з міжнародного гуманітарного права, які спілкувалися з The Guardian, висловили занепокоєння через те, що Армія оборони Ізраїлю приймала та попередньо дозволяла коефіцієнти супутнього збитку до 20 цивільних осіб, особливо для бойовиків нижчого рангу. Вони сказали, що військові повинні оцінювати пропорційність кожного окремого удару
Експерт з міжнародного права в Державному департаменті США сказав, що вони «ніколи не чули, щоб співвідношення один до 15 вважалося прийнятним, особливо для комбатантів нижчого рівня. Є багато свободи дій, але це здається мені крайнім».
Сара Гаррісон, колишній юрист Міністерства оборони США, а зараз аналітик Crisis Group, сказала: «Хоча можуть бути певні випадки, коли 15 супутніх смертей цивільних осіб можуть бути пропорційними, є випадки, коли це точно не буде. Ви не можете просто встановити прийнятну кількість для категорії цілей і сказати, що вона буде законно пропорційною в кожному випадку».
Яким би не було юридичне чи моральне виправдання ізраїльської стратегії бомбардувань, деякі з його офіцерів розвідки, схоже, тепер сумніваються в підході, встановленому їхніми командирами. "Ніхто не думав про те, що робити потім, коли закінчиться війна, або як можна буде жити в Газі", - сказав один.
Інший сказав, що після атак ХАМАС 7 жовтня атмосфера в ЦАХАЛ була «болісною і мстивою». «Був дисонанс: з одного боку, люди тут були розчаровані тим, що ми недостатньо атакуємо. З іншого боку, наприкінці дня ви бачите, що ще одна тисяча жителів Гази загинула, більшість із них цивільні».