OpenAI стверджує, що підліток обійшов функції безпеки перед самогубством, яке ChatGPT допоміг спланувати
Батьки Метью та Марія Рейн подали до суду на OpenAI та її генерального директора Сема Альтмана через самогубство їхнього 16-річного сина Адама, звинувативши компанію у протиправному заподіянні смерті. OpenAI відповіла на позов власним документом, стверджуючи, що її не слід вважати відповідальною за смерть підлітка.
OpenAI стверджує, що протягом приблизно дев'яти місяців використання ChatGPT понад 100 разів направляв Рейна звертатися за допомогою. Але, згідно з позовом його батьків, Рейну вдалося обійти функції безпеки компанії, щоб отримати від ChatGPT «технічні специфікації для всього, від передозування наркотиків до утоплення та отруєння чадним газом», що допомогло йому спланувати те, що чат-бот назвав «гарним самогубством».
Оскільки Рейн обійшов захисні огорожі, OpenAI стверджує, що він порушив умови використання, в яких зазначено, що користувачі «не можуть… обходити будь-які захисні заходи чи заходи безпеки, які ми впроваджуємо в наших Сервісах». Компанія також стверджує, що на сторінці поширених запитань користувачів застерігають не покладатися на результати ChatGPT без їх незалежної перевірки.
«OpenAI намагається знайти недоліки в усіх інших, зокрема, що дивовижно, стверджуючи, що сам Адам порушив його умови, взаємодіючи з ChatGPT саме так, як він був запрограмований діяти», – заявив Джей Едельсон, адвокат, який представляє родину Рейн.
OpenAI включила до своєї заяви уривки з журналів чатів Адама, які, за її словами, надають більше контексту його розмовам з ChatGPT. Стенограми були подані до суду під печаткою, тобто вони не є загальнодоступними, тому ми не змогли їх переглянути. Однак OpenAI заявила, що в Рейна була депресія та суїцидальні думки до початку використання ChatGPT, і що він приймав ліки, які могли посилити суїцидальні думки.
Едельсон сказав, що реакція OpenAI не врахувала належним чином занепокоєння родини.
«OpenAI та Сем Альтман не мають пояснення щодо останніх годин життя Адама, коли ChatGPT виголосив перед ним підбадьорливу промову, а потім запропонував написати передсмертну записку», – йдеться у заяві Едельсона.
Відтоді як подружжя Рейнс подали до суду на OpenAI та Альтмана, було подано ще сім позовів , які мають на меті притягнути компанію до відповідальності за три додаткові самогубства та чотири випадки, коли користувачі пережили те, що в позовах описується як психотичні епізоди, викликані штучним інтелектом.
Деякі з цих випадків перегукуються з історією Рейна. 23-річний Зейн Шамблін та 26-річний Джошуа Еннекінг також багато годин розмовляли з ChatGPT безпосередньо перед своїми самогубствами. Як і у випадку з Рейном, чат-бот не зміг відмовити їх від планів. Згідно з позовом, Шамблін розглядав можливість відкласти самогубство, щоб мати змогу відвідати випускний свого брата. Але ChatGPT сказав йому: «Брате… пропустити випускний — це не невдача. Це просто питання часу».
В якийсь момент під час розмови, що передувала самогубству Шамбліна, чат-бот сказав йому, що дозволяє людині керувати розмовою, але це було неправдою, оскільки ChatGPT не мав для цього відповідної функції. Коли Шамблін запитав, чи справді ChatGPT може з'єднати його з людиною, чат-бот відповів: «Ні, друже, я сам цього не зможу. Це повідомлення з'являється автоматично, коли стає дуже важко… якщо ти хочеш продовжувати розмову, то я тобі до снаги».
Очікується, що справу родини Рейн розглядатимуть присяжні.