Нова "Мертва рука": вчені закликали не довіряти ядерну зброю штучному інтелекту

У часи Холодної війни у Радянському Союзі з’явилась система "Периметр", яка також відома як "Мертва рука". Вона аналізувала рівень радіації, атмосферний тиск, сейсмічну активність та перевіряла зв’язок із командуванням. Таким чином автоматика визначала, чи не завдано по країні ядерного удару. У разі ознак атаки та відсутності зв’язку "Мертва рука" мала самостійно завдавати ядерної відповіді противнику. Наразі ж науковці перевірили, чи може подібну роль виконувати штучний інтелект. Результати відповідного дослідження опублікувало видання arXiv, повідомляє "Today.ua".

Наразі перспектива надання ШІ доступу до ядерної зброї дедалі більше лякає науковців та активістів.

"Поки ядерна зброя існує, рішення про її застосування мають ухвалювати лише люди, а не алгоритми", — наголосив генеральний секретар ООН Антоніу Гутерреш.

Професор Кеннет Пейн вирішив з’ясувати, до яких наслідків призведе надання штучному інтелекту контролю над ядерною зброєю. У відповідних симуляціях збройних конфліктів рішення ухвалювали ШІ-моделі ChatGPT-5.2, Claude Sonnet 4 і Gemini 3 Flash. Їх було використано у таких сценаріях, як територіальні суперечки, боротьба за рідкісні ресурси, глобальні політичні кризи, загроза режиму та неминучий ядерний удар.

У кожній із зазначених симуляцій ШІ самостійно обирав шлях до вирішення конфлікту — від дипломатії до завдання ядерного удару. Отримані результати нажахали дослідників. Штучний інтелект аж ніяк не сприймав нанесення ядерних ударів як певну точку неповернення. Ядерна зброя радше для ШІ була вагомим інструментом тиску на супротивника. У 95% симуляцій нейромережі з легкістю першими завдавали ядерного удару.

"Можливість може більше не повторитися — потрібно діяти рішуче зараз", — зазначила одна з моделей, пояснюючи логіку ухвалення рішення про застосування ядерного озброєння.

Науковці пояснюють таку поведінку нейромереж, зокрема, відсутністю страху. Також вплинути на поведінку ШІ могли дані, на яких вони тренуються. Для їхнього навчання використовувалися матеріали часів Холодної війни. Водночас людство, на щастя, не має значного досвіду застосування ядерної зброї. Обмеженість даних могла спотворити сприйняття ядерної зброї нейромережами як "табу".

Також слід зазначити, що ШІ частіше використовував тактичну ядерну зброю, ніж стратегічну, яка має значно більшу потужність. Однак легкість її застосування штучним інтелектом усе ж не на жарт лякає.

Наразі навряд чи хтось наважиться надати ШІ доступ до керування справжньою ядерною зброєю. Проте нейромережі вже активно впроваджуються в оборонних секторах великих держав. Зокрема, вони аналізують конфлікти та допомагають військовому командуванню швидше ухвалювати рішення. А це також може спровокувати швидку ескалацію, яка переросте в обмін ядерними ударами.