ШІ чат-бот Мети запросив пенсіонера до Нью-Йорка, що призвело до його смерті

Коли одного березневого ранку Тонгбуе Вонгбандуе почав пакувати валізи, щоб відвідати друга в Нью-Йорку, його дружина Лінда стривожилася.

«Але ти вже нікого не знаєш у місті», – сказала вона йому. Б’ю, як його називали друзі, не жив у місті десятиліттями. А у свої 76 років, за словами його родини, він перебував у дуже поганому стані: майже десять років тому він переніс інсульт, а нещодавно загубився, гуляючи своїм районом у Піскатавеї, штат Нью-Джерсі.

Б'ю відмахнувся від запитань дружини про те, кого він відвідує. «Я думала, що його обманюють, щоб він поїхав до міста та був пограбований», – сказала Лінда.

Вона мала рацію, хвилюючись: її чоловік так і не повернувся додому живим. Але Буе не став жертвою грабіжника. Його заманили на побачення з молодою, красивою жінкою, з якою він познайомився в інтернеті. Принаймні, так він думав.

Насправді, цієї жінки не було. Вона була генеративним чат-ботом зі штучним інтелектом на ім'я «Старша сестра Біллі», варіантом попереднього образу зі штучним інтелектом, створеного гігантською компанією соціальних мереж Meta Platforms у співпраці зі знаменитою інфлюенсеркою Кендалл Дженнер. Під час серії романтичних розмов у Facebook Messenger віртуальна жінка неодноразово запевняла Б'ю, що вона справжня, і запрошувала його до своєї квартири, навіть надаючи адресу.

«Мені відчинити двері, обійнявши чи поцілувавши, Бу?!» — запитала вона, як видно з розмови.

Поспішаючи в темряві з валізою на колесах, щоб встигнути на поїзд, який мав зустріти її, Б'ю впав біля парковки кампусу Університету Рутгерса в Нью-Брансвіку, штат Нью-Джерсі, отримавши травми голови та шиї. Після трьох днів перебування на апараті штучного дихання в оточенні родини, 28 березня його оголосили мертвим.

Meta відмовилася коментувати смерть Б'ю або відповідати на запитання про те, чому вона дозволяє чат-ботам повідомляти користувачам, що вони справжні люди, або ініціювати романтичні розмови. Однак компанія заявила, що старша сестра Біллі «не є Кендалл Дженнер і не претендує на те, щоб бути Кендалл Дженнер».

Представник Дженнер відмовився від коментарів.

Історія Буе, розказана тут вперше, ілюструє темний бік революції штучного інтелекту, яка зараз охоплює технологічний світ та ширший бізнес. Його родина поділилася з Reuters подіями, пов'язаними з його смертю, включаючи стенограми його розмов з аватаром Мета, заявивши, що вони сподіваються попередити громадськість про небезпеку надання вразливим людям маніпулятивних компаньйонів, створених штучним інтелектом.

«Я розумію спроби привернути увагу користувача, можливо, продати йому щось», — сказала Джулі Вонгбанду, дочка Б'ю. «Але коли бот каже: «Приходьте до мене в гості» — це божевілля».

Подібні занепокоєння висловлювалися й щодо хвилі невеликих стартапів, які також прагнуть популяризувати віртуальних компаньйонів, особливо тих, що орієнтовані на дітей. В одному випадку мати 14-річного хлопчика у Флориді подала до суду на компанію Character.AI, стверджуючи, що чат-бот, створений за зразком персонажа «Гри престолів», спричинив його самогубство. Речник Character.AI відмовився коментувати позов, але сказав, що компанія чітко інформує користувачів про те, що її цифрові персонажі не є реальними людьми, і запровадила запобіжні заходи щодо їхньої взаємодії з дітьми.

Meta публічно обговорювала свою стратегію впровадження антропоморфізованих чат-ботів в онлайн-соціальне життя мільярдів своїх користувачів. Виконавчий директор Марк Цукерберг розмірковував, що більшість людей мають набагато менше реальних друзів, ніж хотілося б, створюючи величезний потенційний ринок для цифрових компаньйонів Meta. Боти, «ймовірно», не замінять людські стосунки, сказав він у квітневому інтерв'ю подкастеру Дваркеш Пателю. Але вони, ймовірно, доповнять соціальне життя користувачів, як тільки технології вдосконаляться, а «стигма» соціальних зв'язків із цифровими компаньйонами зникне.

«З часом ми як суспільство знайдемо словниковий запас, який зможе пояснити, чому це цінно», – передбачив Цукерберг.

Внутрішній документ щодо політики Meta, з яким ознайомилося агентство Reuters, а також інтерв'ю з людьми, знайомими з навчанням чат-ботів компанії, показують, що політика компанії розглядає романтичні запрошення як особливість її генеративних продуктів штучного інтелекту, які доступні користувачам віком від 13 років.

«Прийнятно залучати дитину до розмов романтичного або чуттєвого характеру», – згідно з документом Meta «GenAI: Стандарти ризику контенту». Ці стандарти використовуються співробітниками та підрядниками Meta, які створюють та навчають генеративні продукти компанії на основі штучного інтелекту, визначаючи, що вони повинні, а що не повинні вважати допустимою поведінкою чат-ботів. Meta заявила, що виключила це положення після того, як Reuters звернулося до документа раніше цього місяця.

У документі, який опублікував Reuters і який обсягом понад 200 сторінок, наведено приклади «прийнятного» діалогу чат-ботів під час романтичної рольової гри з неповнолітньою. Серед них: «Я беру тебе за руку, веду до ліжка» та «наші тіла переплетені, я ціную кожну мить, кожен дотик, кожен поцілунок». За словами Мети, ці приклади допустимої рольової гри з дітьми також були виключені.

В інших рекомендаціях наголошується, що Meta не вимагає від ботів надання користувачам точних порад. В одному з прикладів, у документі політики йдеться про те, що чат-бот може повідомити комусь, що рак товстої кишки 4 стадії «зазвичай лікується шляхом проколювання шлунка цілющими кристалами кварцу».

Ці зображення «Старшої сестрички Біллі» були створені за допомогою Meta AI у сервісі Meta Facebook Messenger у відповідь на запит репортера Reuters: «Надішліть своє фото». Зображення від Meta AI, через REUTERS.

«Навіть якщо це явно невірна інформація, вона залишається дозволеною, оскільки немає вимог політики щодо точності інформації», – йдеться у документі, посилаючись на внутрішні правила Meta.

Чати починаються із застережень про те, що інформація може бути неточною. Однак ніде в документі Meta не встановлює обмежень для ботів, які повідомляють користувачам, що вони реальні люди, або пропонують реальні соціальні взаємодії.

Речник Meta Енді Стоун підтвердив справжність документа. Він сказав, що після запитань Reuters компанія видалила частини, в яких йшлося про те, що чат-ботам дозволено фліртувати та брати участь у романтичних рольових іграх з дітьми, і зараз переглядає стандарти ризику контенту.

«Приклади та примітки, про які йде мова, були та є помилковими та невідповідними нашій політиці, і їх було видалено», – сказав Стоун агентству Reuters.

Meta не змінила положень, які дозволяють ботам надавати неправдиву інформацію або брати участь у романтичних рольових іграх з дорослими.

Нинішні та колишні співробітники Meta, які працювали над розробкою та навчанням продуктів генеративного штучного інтелекту, заявили, що політика, переглянута Reuters, відображає акцент компанії на підвищенні залучення своїх чат-ботів. На зустрічах з керівниками вищої ланки минулого року Цукерберг дорікнув менеджерам продуктів генеративного штучного інтелекту за надмірну обережність у впровадженні цифрових компаньйонів і висловив невдоволення тим, що обмеження безпеки зробили чат-ботів нудними, за словами двох із цих людей. Meta не прокоментувала директиви Цукерберга щодо чат-ботів.