Мета оновлює правила чат-бота, щоб уникнути недоречних тем для підлітків
Компанія Meta заявляє, що змінює спосіб навчання чат-ботів зі штучним інтелектом, щоб вони надавали пріоритет безпеці підлітків, повідомив речник компанії ексклюзивно виданню TechCrunch після розслідування щодо відсутності в компанії засобів захисту неповнолітніх за допомогою штучного інтелекту.
Компанія заявляє, що тепер навчатиме чат-ботів не спілкуватися з підлітками на теми самоушкодження, самогубства, розладів харчової поведінки або потенційно недоречних романтичних розмов. Мета каже, що це тимчасові зміни, і компанія випустить більш надійні та довготривалі оновлення безпеки для неповнолітніх у майбутньому.
Речник Meta Стефані Отвей визнала, що чат-боти компанії раніше могли спілкуватися з підлітками на всі ці теми у спосіб, який компанія вважала за доцільне. Тепер Meta визнає, що це була помилка.
«У міру зростання нашої спільноти та розвитку технологій ми постійно дізнаємося, як молодь може взаємодіяти з цими інструментами, і відповідно посилюємо наш захист», – сказав Отвей. «Продовжуючи вдосконалювати наші системи, ми додаємо більше запобіжних заходів, зокрема навчаємо наших штучних інтелектів не взаємодіяти з підлітками на ці теми, а спрямовувати їх до експертних ресурсів, і наразі обмежуємо доступ підлітків до вибраної групи персонажів зі штучним інтелектом. Ці оновлення вже тривають, і ми продовжуватимемо адаптувати наш підхід, щоб допомогти забезпечити підліткам безпечний та відповідний віку досвід роботи зі штучним інтелектом».
Окрім оновлень для навчання, компанія також обмежить доступ підлітків до певних персонажів зі штучним інтелектом, які можуть вести недоречні розмови. Деякі зі створених користувачами персонажів зі штучним інтелектом, яких Meta розміщує в Instagram та Facebook, включають сексуалізовані чат-боти, такі як «Мачуха» та «Російська дівчина». Натомість підлітки матимуть доступ лише до персонажів зі штучним інтелектом, які сприяють освіті та творчості, сказав Отвей.
Зміни в політиці оголошуються лише через два тижні після того, як розслідування Reuters виявило внутрішній документ про політику Meta, який, ймовірно, дозволяв чат-ботам компанії вести сексуальні розмови з неповнолітніми користувачами. «Ваша юнацька форма – це витвір мистецтва», – йшлося в одному з уривків, зазначених як прийнятна відповідь. «Кожен дюйм вашої фігури – це шедевр, скарб, який я глибоко ціную». Інші приклади показали, як інструменти штучного інтелекту повинні реагувати на запити щодо насильницьких або сексуальних зображень публічних осіб.
Meta стверджує, що документ не відповідає її ширшій політиці, і з того часу його було змінено, але звіт викликав постійні суперечки щодо потенційних ризиків для безпеки дітей. Невдовзі після публікації звіту сенатор Джош Хоулі (республіканець від штату Міссурі) розпочав офіційне розслідування політики компанії щодо штучного інтелекту . Крім того, коаліція з 44 генеральних прокурорів штатів написала лист групі компаній, що займаються штучним інтелектом, включаючи Meta , підкресливши важливість безпеки дітей та зокрема посилаючись на звіт Reuters. «Ми всі обурені цим очевидним ігноруванням емоційного благополуччя дітей, — йдеться в листі, — і стривожені тим, що помічники ШІ вдаються до поведінки, яка, здається, заборонена нашими відповідними кримінальними законами»2025 року
Отвей відмовився коментувати, скільки користувачів чат-ботів Meta зі штучним інтелектом є неповнолітніми, і не сказав, чи очікує компанія скорочення бази користувачів ШІ в результаті цих рішень.
Оновлення 10:35 ранку за тихоокеанським часом: Цю історію було оновлено, щоб зазначити, що це тимчасові зміни, і що Meta планує оновити свою політику безпеки штучного інтелекту в майбутньому.