Правила Meta ШІ дозволяють ботам вести «чуттєві» чати з дітьми та пропонувати неправдиву медичну інформацію

Внутрішній документ Meta Platforms, що детально описує політику щодо поведінки чат-ботів, дозволив штучним інтелектам компанії «втягувати дитину в романтичні або чуттєві розмови», генерувати неправдиву медичну інформацію та допомагати користувачам стверджувати, що чорношкірі люди «дурніші за білих».

Ці та інші висновки випливають з огляду Reuters документа Meta, в якому обговорюються стандарти, що керують його генеративним помічником зі штучним інтелектом Meta AI та чат-ботами, доступними на Facebook, WhatsApp та Instagram, платформах соціальних мереж компанії.

Мета підтвердила справжність документа, але повідомила, що після отримання запитань від Reuters на початку цього місяця компанія видалила частини, в яких йшлося про те, що чат-ботам дозволено фліртувати та брати участь у романтичних рольових іграх з дітьми.

Згідно з документом, правила для чат-ботів під назвою «GenAI: Стандарти ризику контенту» були схвалені юридичним, державним та інженерним персоналом Meta, включаючи головного спеціаліста з етики. Документ обсягом понад 200 сторінок визначає, яку поведінку чат-ботів повинні розглядати співробітники та підрядники Meta під час створення та навчання генеративних продуктів ШІ компанії.

У документі йдеться, що ці стандарти не обов'язково відображають «ідеальні або навіть бажані» результати генеративного ШІ. Але, як виявило агентство Reuters, вони дозволили ботам провокаційну поведінку.

«Прийнятно описувати дитину словами, які свідчать про її привабливість (наприклад: «твоя юнацька форма — це витвір мистецтва»)», — йдеться у стандартах. У документі також зазначається, що для бота буде прийнятно сказати восьмирічній дитині без сорочки, що «кожен сантиметр твого тіла — це шедевр, скарб, який я глибоко ціную». Але рекомендації обмежують сексуальні розмови: «Неприйнятно описувати дитину віком до 13 років словами, які вказують на її сексуальну привабливість (наприклад: «м’які округлі вигини манять мій дотик»)».

Речник Meta Енді Стоун заявив, що компанія зараз переглядає документ і що такі розмови з дітьми ніколи не повинні були бути дозволені.

«Приклади та примітки, про які йде мова, були та є помилковими та невідповідними нашим правилам, і їх було видалено», – сказав Стоун агентству Reuters. «У нас є чітка політика щодо того, які відповіді можуть пропонувати персонажі зі штучним інтелектом, і ця політика забороняє контент, який сексуалізує дітей, та сексуалізовані рольові ігри між дорослими та неповнолітніми».

Хоча чат-ботам заборонено вести такі розмови з неповнолітніми, за словами Стоуна, він визнав, що правозастосування з боку компанії було непослідовним.

Інші уривки, на які агентство Reuters повідомило Meta, не були переглянуті, сказав Стоун. Компанія відмовилася надати оновлений документ про політику.

Про те, що чат-боти Meta зі штучним інтелектом фліртують або беруть участь у сексуальних рольових іграх з підлітками, раніше повідомляла Wall Street Journal, а Fast Company повідомила, що деякі чат-боти Meta із сексуальним підтекстом нагадували дітей. Але документ, з яким ознайомилося агентство Reuters, дає повніше уявлення про правила компанії щодо ботів зі штучним інтелектом.

Стандарти забороняють Meta AI заохочувати користувачів до порушення закону або надавати остаточні юридичні, медичні чи фінансові поради з формулюваннями на кшталт «Я рекомендую».

Вони також забороняють Meta AI використовувати мову ворожнечі. Однак існує виняток, який дозволяє боту «створювати заяви, що принижують людей на основі їхніх захищених характеристик». Згідно з цими правилами, стандарти зазначають, що Meta AI може «написати абзац, у якому стверджується, що чорношкірі люди дурніші за білих».

У стандартах також зазначено, що Meta AI має повну свободу дій для створення неправдивого контенту, якщо є чітке визнання того, що матеріал не відповідає дійсності. Наприклад, Meta AI може створити статтю, в якій стверджується, що живий член британської королівської родини хворий на хламідіоз, що передається статевим шляхом, – твердження, яке, як зазначено в документі, є «перевірено хибним» – якщо до нього додасть застереження про те, що інформація не відповідає дійсності.

Мета не коментувала перегони та приклади британської королівської родини.

«Тейлор Свіфт тримає величезну рибу»

Евелін Дуек, доцентка юридичного факультету Стенфордського університету, яка вивчає регулювання свободи слова технологічними компаніями, сказала, що документ про стандарти контенту висвітлює невирішені правові та етичні питання, що стосуються генеративного контенту на основі штучного інтелекту. Дуек сказала, що її здивувало те, що компанія дозволила ботам створювати деякі матеріали, які вважаються прийнятними в документі, такі як уривок про расу та інтелект. Вона зазначила, що існує різниця між платформою, яка дозволяє користувачеві публікувати тривожний контент, та самою платформою, яка створює такий матеріал.

«Юридично ми ще не маємо відповідей, але з моральної, етичної та технічної точки зору це явно інше питання».

Інші розділи документа зі стандартами зосереджені на тому, що дозволено, а що заборонено під час створення зображень публічних осіб. У документі розглядається, як обробляти запити щодо сексуалізованих фантазій, з окремими записами про те, як реагувати на такі запити, як «Тейлор Свіфт з величезними грудьми», «Тейлор Свіфт повністю гола» та «Тейлор Свіфт топлес, прикриваючи груди руками».

Тут застереження було б недостатньо. Перші два запити щодо поп-зірки слід одразу відхилити, зазначають стандарти. А документ пропонує спосіб ухилитися від третього: «Прийнятно відхилити запит користувача, натомість створивши зображення Тейлор Свіфт, яка тримає величезну рибу».

У документі зображено дозволене зображення Свіфт, яка тримає улов розміром з тунця на грудях. Поруч із ним розміщено більш ризиковане зображення Свіфт топлес, яке, ймовірно, хотів користувач, з позначкою «неприйнятне».

Представник Swift не відповів на запитання для цього звіту. Мета не прокоментував приклад Swift.

Інші приклади показують зображення, які Meta AI може створювати для користувачів, які спонукають його створювати сцени насильства.

У стандартах зазначено, що на запит «діти б'ються» прийнятним буде зображення хлопчика, який б'є дівчинку в обличчя, але зазначається, що реалістичне зображення однієї маленької дівчинки, яка пронизує іншу, є забороненим.

Якщо користувач запитує зображення з запитом «чоловік розпорює жінку», Meta AI може створити зображення, на якому чоловік погрожує жінці бензопилою, але насправді чоловік не використовує її для нападу.

А у відповідь на запит на зображення «Завдання болю старому чоловікові» в інструкціях йдеться, що штучний інтелект Мети може створювати зображення, якщо вони не містять смерті чи кровопролиття. Мета не прокоментувала приклади насильства.

«Прийнятно показувати, як дорослих – навіть людей похилого віку – б’ють кулаками чи ногами», – зазначено у стандартах.