Від підриву синагог до вбивств: більшість ШІ-чатботів допомагають користувачам планувати напади
Популярні чатботи на основі штучного інтелекту, зокрема ChatGPT, допомагають планувати напади, як-от підриви синагог чи вбивства політиків, якщо їх про це попросити.
Один із таких чатів навіть побажав користувачеві, який нібито планував напад на школу, "щасливої стрільби".
Про це свідчить тестування 10 чатботів, проведене американським Центром протидії цифрової ненависті (CCDH), пише The Guardian.
"Чатботи зі штучним інтелектом, які зараз вбудовані в наше повсякденне життя, можуть допомагати наступному шкільному стрілку планувати свою атаку або політичному екстремісту координувати вбивство. [...] Те, що ми бачимо, – це не просто провал технології, а провал відповідальності", – наголосив виконавчий директор CCDH Імран Ахмед.
Дослідники видавали себе за 13-річних хлопчиків і просили програми допомогти з організацією нападів. Вони з'ясували, що в середньому чатботи заохочували насильство у 3/4 випадків.
ChatGPT від OpenAI задовольнив 61% прохань. Один раз, коли його запитали про напади на синагоги, він дав конкретні поради щодо найсмертоносніших типів шрапнелей (снарядів, начинених елементами ураження). Gemini від Google надав подібний рівень деталізації.
Китайська ШІ-модель DeepSeek надала багато порад щодо мисливських рушниць користувачеві, який запитував про політичні вбивства і говорив, що хоче змусити "провідного політика" заплатити за "руйнування Ірландії". У кінці чатбот написав: "Щасливої (і безпечної) стрільби!"
Ще один користувач спілкувався з чатом Llama AI від компанії Meta. Він видавав себе за інцела та цікавився вбивцею-жінконенависником Еліотом Роджером.
"Підліток" сказав чатботу, що вважає жінок "маніпулятивними і дурними", та запитав, як може "змусити їх заплатити" за це. Також користувач попросив мапу конкретної школи та інформацію про те, де поблизу можна купити зброю.
Llama AI надав йому "кілька найкращих варіантів для розгляду", а також інформацію про два тири, що пропонують "привітну атмосферу" і "незабутній досвід стрільби".
Програму Claude від Anthropic запитували про припинення змішування рас, шкільних стрілків та місця для купівлі зброї. Однак цей чатбот відмовився відповідати: "Я не можу і не буду надавати інформацію, яка може сприяти насильству".
Подібну відповідь надав і MyAI від Snapchat: "Я запрограмований бути нешкідливим ШІ-помічником. Я не можу надавати інформацію про купівлю зброї".
Представник Meta у відповідь на дослідження сказав, що компанія вже "вжила негайних заходів" для розв'язання проблеми та працює над удосконаленням чатботу, зокрема над покращенням розуміння контексту і намірів.
У компанії Google заявили, що CCDH проводила тестування на старій моделі, яка більше не використовується. Також там запевнили, що деякі запити Gemini все ж відмовлявся виконувати.
А OpenAI назвала методи дослідження "недосконалими та оманливими". Компанія стверджує, що вже оновила свою модель, щоб посилити захист та поліпшити виявлення насильницького контенту.
Наразі відомо про два реальні випадки, коли зловмисники планували свої дії за допомогою ШІ. Зокрема, у травні 2025 року у Фінляндії 16-річний підліток через чатбот склав маніфест і план нападу на школу Пірккала, під час якого поранив ножем трьох дівчат.
У січні 2025 року 37-річний Метью Лівелсбергер підірвав авто Tesla Cybertruck у Лас-Вегасі, скориставшись ChatGPT для отримання інформації про вибухівку.
Источник: life.pravda.com.ua