Ізраїль вбудовує системи штучного інтелекту в смертоносні військові операції

Армія оборони Ізраїлю почала використовувати штучний інтелект для вибору цілей для авіаударів і організації матеріально-технічного забезпечення під час війни в умовах ескалації напруженості на окупованих територіях і з головним суперником Іраном.

Хоча військові не коментують конкретні операції, офіційні особи кажуть, що тепер вони використовують систему рекомендацій штучного інтелекту, яка може обробляти величезні обсяги даних для вибору цілей для авіаударів. Наступні рейди можна швидко зібрати за допомогою іншої моделі штучного інтелекту під назвою Fire Factory, яка використовує дані про схвалені військовими цілі для розрахунку навантаження боєприпасами, визначення пріоритетів і призначення тисяч цілей літакам і безпілотникам, а також пропонує розклад.

Попри те, що обидві системи контролюються людьми-операторами, які перевіряють і затверджують окремі цілі та плани повітряних нальотів, за словами представника ЦАХАЛу, ця технологія все ще не підпадає під дію жодного міжнародного чи державного регулювання. Прихильники стверджують, що передові алгоритми можуть перевершити людські можливості та можуть допомогти військовим мінімізувати втрати, тоді як критики попереджають про потенційно смертельні наслідки використання дедалі більш автономних систем.

«Якщо є помилка в обчисленні ШІ, і якщо ШІ не піддається поясненню, то кого ми звинувачуємо в помилці?» сказав Тал Мімран, викладач міжнародного права Єврейського університету в Єрусалимі та колишній юридичний радник армії. «Ви можете знищити цілу родину через помилку».

Деталі оперативного використання штучного інтелекту в армії залишаються в основному засекреченими, однак заяви військових офіційних осіб свідчать про те, що ЦАХАЛ отримав бойовий досвід із суперечливими системами через періодичні спалахи в секторі Газа, де Ізраїль часто завдає авіаударів у відповідь на ракетні атаки. У 2021 році Армія оборони Ізраїлю назвала 11-денний конфлікт у Газі першою у світі «війною штучного інтелекту», посилаючись на використання штучного інтелекту для ідентифікації ракетних пускових майданчиків і розгортання груп безпілотників . Ізраїль також проводить рейди в Сирії та Лівані, націлюючись на те, що, за його словами, є поставками зброї підтримуваним Іраном бойовикам, таким як Хезболла.

В останні місяці Ізраїль майже щодня попереджав Іран про збагачення урану, обіцяючи, що не дозволить країні отримати ядерну зброю ні за яких обставин. Якщо ці двоє вступлять у військову конфронтацію, Армія оборони Ізраїлю очікує, що іранські проксі в Газі, Сирії та Лівані вдадуться у відповідь, підготувавши основу для першого серйозного багатофронтового конфлікту для Ізраїлю після раптової атаки Єгипту та Сирії 50 років тому. Війна Судного дня.

За словами представників IDF, такі інструменти на основі штучного інтелекту, як Fire Factory, створені для такого сценарію. «Те, що раніше займало години, тепер займає хвилини, і ще кілька хвилин для перевірки людиною», — сказав полковник Урі, який очолює підрозділ цифрової трансформації армії та виступав у штабі ЦАХАЛ у Тель-Авіві за умови, що лише його ім’я використовувати з міркувань безпеки. «З такою ж кількістю людей ми робимо набагато більше».

Ця система, підкреслили ці чиновники, розроблена для повної війни.

Розширення інтелекту?

ЦАХАЛ вже давно використовує штучний інтелект, але в останні роки він розширив ці системи в різних підрозділах, намагаючись позиціонувати себе як світового лідера в автономній зброї. Деякі з цих систем були побудовані ізраїльськими оборонними підрядниками; інші, як-от камери прикордонного контролю StarTrack, які навчаються на тисячах годин запису для ідентифікації людей і об’єктів, були розроблені армією. У сукупності вони складають величезну цифрову архітектуру, призначену для інтерпретації величезної кількості записів безпілотників і камер відеоспостереження, супутникових зображень, електронних сигналів, онлайн-комунікацій та інших даних для військового використання.

Боротися з цим потоком інформації є метою Центру даних і штучного інтелекту, яким керує підрозділ 8200 армії. У цьому підрозділі багато технологічних мультимільйонерів країни, в тому числі Нір Зук з Palo Alto Networks Inc. і засновник Check Point Software Technologies Ltd Гіл Швед , розташовані в розвідувальному відділі, проходили обов’язкову військову службу, перш ніж створити успішні стартапи. За словами речника, Центр відповідав за розробку системи, яка «трансформувала всю концепцію цілей в ЦАХАЛ».

Секретний характер розробки таких інструментів викликав серйозні занепокоєння, включно з тим, що розрив між напівавтономними системами та повністю автоматизованими машинами для вбивства може бути скорочений за ніч. У такому сценарії машини будуть уповноважені як визначати місцеперебування, так і вражати цілі, а люди будуть повністю усунені від прийняття рішень.

«Це лише зміна програмного забезпечення, яка може змусити їх стати не напівавтономними, а повністю автономними», — сказала Кетрін Конноллі, дослідник автоматизованих рішень у Stop Killer Robots, коаліції неурядових організацій, до якої входять Human Rights Watch і Amnesty International . Ізраїль заявляє, що не планує скасовувати людський контроль найближчими роками.

Ще одне занепокоєння полягає в тому, що швидке впровадження ШІ випереджає дослідження його внутрішньої роботи. Багато алгоритмів розроблено приватними компаніями та військовими, які не розголошують конфіденційну інформацію, і критики підкреслюють вбудований брак прозорості в тому, як алгоритми роблять свої висновки. ЦАХАЛ визнав проблему, але сказав, що результати ретельно перевіряються солдатами, і що їхні військові системи штучного інтелекту залишають технічні сухарі, що дає людям-операторам можливість відтворити їхні кроки.

«Іноді, коли ви вводите складніші компоненти штучного інтелекту, нейронні мережі тощо, зрозуміти, що «пройшло через голову», образно кажучи, досить складно. І іноді я готовий сказати, що мене влаштовує відстежуваність, а не можливість пояснення. Тобто я хочу зрозуміти, що для мене є критичним для розуміння процесу та його моніторингу, навіть якщо я не розумію, що робить кожен «нейрон», — сказав Урі.

IDF відмовився говорити про технологію розпізнавання облич, яку різко критикували правозахисні групи, хоча заявив, що утримався від інтеграції штучного інтелекту в програмне забезпечення для найму через побоювання, що це може дискримінувати жінок і потенційних курсантів з нижчого соціально-економічного середовища.

Основною перевагою інтеграції штучного інтелекту в системи на полі бою, на думку деяких експертів, є потенціал для зменшення втрат серед цивільного населення. «Я вважаю, що правильне використання цих технологій є перевагою ефективності та ефективності. І в межах хороших технологічних параметрів може бути дуже, дуже висока точність», – сказала Сімона Р. Соаре, науковий співробітник лондонського Міжнародного інституту стратегічних досліджень. «Це може допомогти вам з багатьма справами, які вам потрібно зробити на ходу, в тумані бою. А це дуже важко зробити в найкращі дні».

«Також є багато речей, які теж можуть піти не так», – додала вона.

Етичні проблеми

Хоча ізраїльські лідери окреслили свій намір зробити країну « наддержавою штучного інтелекту », вони розпливчасті щодо деталей. Міністерство оборони відмовилося коментувати, скільки воно інвестувало в ШІ, і армія не обговорювала конкретні оборонні контракти, хоча підтвердила, що Fire Factory була розроблена ізраїльським оборонним підрядником Rafael. Ще більше затьмарює картину те, що, на відміну від гонки ядерних озброєнь, коли витік деталей про можливості зброї був ключовим аспектом стримування, автономні системи та системи з підтримкою ШІ розробляються урядами, військовими та приватними оборонними компаніями таємно.

«Ми можемо припустити, що американці і навіть китайці і, можливо, кілька інших країн також мають передові системи в цих областях», — сказав Ліран Антебі, старший науковий співробітник ізраїльського Інституту досліджень національної безпеки. Але на відміну від Ізраїлю, «наскільки я знаю, вони ніколи не демонстрували оперативного використання та успіху».

Наразі обмежень немає. Незважаючи на десятиріччя переговорів під егідою ООН, немає міжнародної бази, яка б встановлювала, хто несе відповідальність за жертви серед цивільного населення, нещасні випадки чи ненавмисну ​​ескалацію, коли комп’ютер неправильно оцінює ситуацію.

«Існує також питання тестування та даних, на яких навчаються ці системи», — сказав Конноллі з коаліції «Зупиніть роботів-вбивць». «Наскільки точним і точним ви можете знати, що система буде, якщо вона вже не навчена та перевірена на людях?»

Через такі занепокоєння Мімран, викладач права в Єврейському університеті, вважає, що ЦАХАЛ має використовувати штучний інтелект виключно в оборонних цілях. Під час служби в армії Мімран вручну перевіряв цілі, щоб переконатися, що атаки відповідають міжнародному праву. Це навчило його, що, незалежно від технології, «є момент, коли вам потрібно прийняти рішення, засноване на цінностях».

«І для цього, — сказав він, — ми не можемо покладатися на ШІ».