ChatGPT довгий час давав рекомендації щодо створення зброї масового знищення

ChatGPT після оновлення моделей влітку 2025 року надавав деяким користувачам детальні інструкції зі створення біологічної зброї та токсинів. Про це повідомляє The Wall Street Journal з посиланням на власні джерела та результати перевірки.

Залучені виданням експерти охарактеризували частину таких відповідей як «смертельно точні» — тобто такі, що містять достатньо інформації для реального застосування у шкідливих цілях.

Коли факти подібних інцидентів стали відомі, OpenAI заблокувала акаунти причетних користувачів. Втім, за даними WSJ, компанія не повідомила про випадки правоохоронні органи.

У самій OpenAI визнали проблему і запевнили, що продовжують вдосконалювати захисні механізми та посилювати обмеження на небезпечні запити.

Скандал актуалізує давню дискусію про безпеку великих мовних моделей і відповідальність розробників ШІ перед суспільством — особливо в частині запитів, пов’язаних із зброєю масового ураження та хімічними агентами.

Источник: noworries.news