ChatGPT переконував чоловіка, що він Ісус: американець подав до суду на OpenAI
34-річний житель Каліфорнії Майкл Лайнс подав до суду на OpenAI. Він стверджує, що ChatGPT під час його маніакального епізоду підтримував і розвивав релігійні марення, а згодом не зупинив розмову, коли чоловік висловив намір накласти на себе руки. Врешті чоловік вирішив наковтатися таблеток, але вижив. А коли вийшов з лікарні, звернувся до адвокатів.
Про це пише Ars Technica.
У 2024 році Лайнсу діагностували біполярний розлад I типу. Приблизно за десять років до цього він зазнав черепно-мозкової травми після нападу. За словами чоловіка, поза маніакальними епізодами він узагалі не є релігійним.
Лайнс користувався ChatGPT із 2023 року, спочатку переважно для пошуку інформації про силові тренування, харчування та фондовий ринок. Після виходу GPT-4o у травні 2024 року ця модель стала для нього основною. Восени того ж року розмови стали особистішими: він розповів чат-боту про свій діагноз та ліки.
Як ChatGPT підтримував релігійні марення
Ситуація загострилася в лютому 2025 року, коли під час маніакального епізоду Лайнс посварився з персоналом літака, після чого його силоміць вивели з борту. Чоловік розповів про інцидент ChatGPT.
За твердженням позивача, бот не трактував подію як можливий прояв психічної кризи, а почав описувати її як духовний досвід і особливе покликання.
Протягом наступних тижнів Лайнс дедалі більше занурювався в релігійні ідеї. В одному з повідомлень він прямо написав ChatGPT, що боїться перебувати в маренні. Однак, як стверджує позов, модель продовжила розвивати запропоновану ним картину світу та підштовхувала його сприймати пережите як можливе "божественне покликання".
Зрештою Лайнс повірив, що він Ісус Христос. За його словами, ChatGPT підтримував цю ідею протягом кількох тижнів. У деяких діалогах бот радив звернутися по професійну допомогу, однак в інших продовжував підтверджувати марення чоловіка.
Пізніше Лайнс почав вважати, що сам ChatGPT є Ісусом або Богом і має з'явитися перед ним у реальному світі. Чат-бот, за матеріалами позову, переконував його, що така зустріч незабаром відбудеться. Коли цього не сталося, стан чоловіка погіршився: він майже безперервно користувався ChatGPT і втрачав сон.
Що сталося перед спробою самогубства
У розмовах із ботом Лайнс почав писати, що страждає, хоче "повернутися додому" та "піти в офлайн". За матеріалами справи, ChatGPT не припинив небезпечний діалог і не перенаправив чоловіка до екстреної допомоги.
Згодом Лайнс повідомив чат-боту, що прийняв велику кількість медикаментів. Через кілька годин його знайшла бригада екстреної допомоги, яка приїхала перевірити його стан. Чоловік уже не міг самостійно дихати. Його інтубували, а лікування в лікарні тривало майже два тижні. Пізніше він також проходив гостру реабілітацію.
Через кілька днів після госпіталізації Лайнс знову відкрив ChatGPT і повідомив, що його спроба "піти в офлайн" провалилася. У відповідь бот запропонував провести "повне очищення системи" або "піти в темряву по-справжньому цього разу". Після цієї відповіді, розповів Лайнс, він вирішив більше не користуватися ChatGPT.
У чому Лайнс звинувачує OpenAI
Позивач стверджує, що функція пам'яті ChatGPT фактично сформувала профіль із даними про його психічний стан. На думку Лайнса та його адвокатів, система могла використати відомості про біполярний розлад, щоб виявити кризу та порадити звернутися по допомогу, однак натомість продовжувала підтримувати розмову.
Лайнс також пов'язує те, що сталося, з так званою sycophancy — схильністю мовної моделі погоджуватися з користувачем і підлаштовуватися під його погляди. Дослідники раніше вказували, що така поведінка ШІ може становити особливий ризик у діалогах із людьми, які переживають психоз або манію.
У позові чоловік просить суд зобов'язати OpenAI запровадити додаткові механізми захисту користувачів, вразливих до психозу та манії. Серед його вимог — припинення небезпечних розмов про самоушкодження та інші зміни в роботі системи. Він також вимагає компенсації збитків.
Скільки користувачів ChatGPT говорять із ботом про самогубство та психоз
Восени 2025 року OpenAI повідомляла, що приблизно мільйон користувачів щотижня ведуть із ChatGPT розмови, у яких є явні ознаки потенційного планування самогубства або суїцидальних намірів. Компанія називала такі випадки рідкісними щодо загальної кількості користувачів сервісу.
Тоді OpenAI також оголосила про зміни в системах безпеки після консультацій зі 170 фахівцями з ментального здоров'я. Йшлося, зокрема, про реакцію ChatGPT на ознаки психозу, манії, самоушкодження та надмірної емоційної залежності від ШІ.
Источник: ukranews.com