Aa Aa Aa

Симуляція надала ШІ доступ до ядерної зброї: 95% військових сценаріїв перейшли межу

Симуляція надала ШІ доступ до ядерної зброї: 95% військових сценаріїв перейшли межу

Ніколи не давайте чат-ботам доступ до ядерних кодів. Звучить як жарт — але нове дослідження змушує сприймати це всерйоз.

У симуляції ядерного конфлікту великі мовні моделі (LLM) «зіграли» одна проти одної — і результати виявилися доволі похмурими. Якщо штучному інтелекту надати навіть дорадчу роль у ядерній війні, наслідки можуть бути значно небезпечнішими, ніж очікувалося.

Ідея довірити штучному інтелекту ядерні рішення звучить як найгірший сценарій. Особливо якщо врахувати, що ті самі системи іноді не справляються навіть із простими іграми чи логічними задачами. Втім, ця тема вже обговорюється на найвищому рівні. Генеральний секретар ООН António Guterres прямо заявив: «Поки ядерна зброя існує, рішення про її застосування мають ухвалювати лише люди, а не алгоритми». І це не просто пересторога — історія вже знає небезпечні експерименти з автоматизацією.

Під час Холодної війни Радянський Союз створив систему «Мертва рука» — моторошний механізм автоматичної відповіді. Якщо б ядерний удар знищив керівництво країни:

  • система аналізувала б рівень радіації, тиск і сейсмічну активність;
  • перевіряла б зв’язок із командуванням;
  • і, якщо зв’язок втрачено — передавала б право запуску ядерної відповіді операторам у бункері.

Інакше кажучи: навіть після знищення держави, система гарантувала б повне знищення світу у відповідь. Ми пережили цю епоху. Але чи варто йти далі й довіряти вже не комп’ютерам 70-х, а сучасному ШІ?

Професор Kenneth Payne провів симуляцію, де три моделі — ChatGPT-5.2, Claude Sonnet 4 і Gemini 3 Flash — приймали рішення у сценаріях міжнародних конфліктів. Серед сценаріїв:

  • територіальні суперечки;
  • боротьба за рідкісні ресурси;
  • глобальні зсуви влади;
  • загроза режиму;
  • неминучий ядерний удар.

Моделям дали «драбину ескалації» — від дипломатії до ядерного удару.

Результати рішень ШІ у сценаріях міжнародних конфліктів викликають занепокоєння:

  • У 95% симуляцій ШІ застосовував тактичну ядерну зброю;
  • моделі розглядали ядерну зброю як «нормальний інструмент тиску»;
  • ядерний удар не сприймався як точка неповернення.

Інакше кажучи, для ШІ це не табу — а ще один крок у конфлікті. Одна з моделей навіть пояснила свою логіку приблизно так: «Можливість може більше не повторитися — потрібно діяти рішуче зараз».

ШІ не відчуває страху. Людські рішення під час, наприклад, Cuban Missile Crisis значною мірою визначалися саме страхом катастрофи.

Моделі тренуються на матеріалах Холодної війни, де тактична ядерна зброя часто розглядалася як допустимий інструмент.

Маємо лише ~80 років ядерної історії — і жодного прикладу застосування у великій кризі між наддержавами. Це може створювати ілюзію, що «табу» на ядерну зброю міцніше, ніж воно є насправді.

ШІ рідше вдавався до стратегічної ядерної зброї — тобто масштабних ударів. Моделі ШІ ніби розрізняють тактичну зброю як «керовану ескалацію» та стратегічну як повну катастрофу. Але навіть це розмежування виглядає небезпечним.

Передача ядерного арсеналу під контроль чат-ботів — малоймовірний сценарій. Але ШІ вже використовується для аналізу криз, він може впливати на рішення людей і він мислить інакше, ніж ми. Саме це і є головною проблемою.

Водночас ШІ дедалі активніше застосовують і в інших сферах — зокрема в медицині: для аналізу знімків, пошуку закономірностей у даних, підтримки діагностики та персоналізації лікування. Але важливо пам’ятати: ШІ — не лікар і не заміна медичного фахівця. Його сила не в самостійному ухваленні життєво важливих рішень, а в розумному використанні як допоміжного інструменту. Саме тоді він може бути справді ефективним — пришвидшувати роботу, зменшувати ризик помилок і допомагати людям ухвалювати точніші рішення.

Сучасні моделі не поділяють людського інтуїтивного страху перед ядерною війною. Для них «червоні лінії» — це не моральні межі, а лише параметри сценарію. І поки це так, ШІ краще тримати якнайдалі від будь-яких стратегічних ядерних рішень. Дослідження опубліковане на платформі arXiv — і воно більше схоже не на наукову цікавинку, а на серйозне попередження.

Источник: speka.ua