OpenAI обговорював можливість виклику поліції щодо чатів підозрюваного канадського стрільця

18-річний підліток, який нібито вбив вісьмох людей під час масової стрілянини в Тамблер-Рідж, Канада, як повідомляється, використовував ChatGPT від OpenAI таким чином, що це викликало занепокоєння у співробітників компанії.

Чати Джессі Ван Рутселара, що описували насильство із застосуванням зброї, були позначені інструментами, що відстежують LLM компанії, на предмет неправомірного використання та заборонені в червні 2025 року.

За даними Wall Street Journal , співробітники компанії обговорювали, чи звертатися до канадських правоохоронних органів щодо такої поведінки, але зрештою цього не зробили . Речник OpenAI заявив, що діяльність Ван Рутселара не відповідає критеріям для повідомлення правоохоронним органам; компанія звернулася до канадської влади після інциденту.

«Ми думаємо з усіма, хто постраждав від трагедії в Тамблер-Рідж», – заявив речник OpenAI. «Ми проактивно звернулися до Королівської канадської кінної поліції з інформацією про цю особу та використання нею ChatGPT, і ми продовжуватимемо підтримувати їхнє розслідування».

Розшифровки ChatGPT були не єдиною тривожною частиною цифрового сліду Ван Рутселаар. Ймовірно, вона створила гру на Roblox, платформі для симуляції світу, яку часто відвідують діти, яка імітувала масову стрілянину в торговому центрі. Вона також писала про зброю на Reddit.

Нестійкість ван Рутселаар також була відома місцевій поліції, яку викликали до будинку її родини після того, як вона влаштувала пожежу під впливом невстановлених наркотиків.

Чат-боти LLM, створені OpenAI та її конкурентами, звинувачуються у спровокуванні психічних зривів у користувачів, які втрачають контроль над реальністю під час спілкування з цифровими моделями. Було подано численні судові позови , в яких згадуються стенограми чатів, що заохочують людей до самогубства або пропонують допомогу в цьому.