Meta попереджатиме батьків, якщо підлітки спілкуватимуться з ШІ про самогубство

Про це повідомляє ABC news.

Нова функція «Повідомлення для батьків» почне впроваджуватися з четверга для користувачів інструментів батьківського контролю в Instagram у США, Великій Британії, Австралії та Канаді. До кінця року її планують зробити доступною в усьому світі.

У Meta повідомили, що разом зі сповіщенням батьки отримуватимуть інформаційні матеріали, розроблені за участі фахівців, які допоможуть говорити з підлітками про самогубство та самоушкодження.

За даними компанії, спеціальну систему штучного інтелекту для виявлення потенційно небезпечних розмов створили після консультацій із батьками та експертами у сфері психічного здоров’я, щоб визначити, які типи взаємодії мають бути підставою для надсилання попередження. Як додатковий захід безпеки кожну розмову, позначену системою штучного інтелекту, перед надсиланням повідомлення перевірятиме людина. У Meta також зазначили, що якщо наміри підлітка залишатимуться незрозумілими, компанія «дотримуватиметься принципу обережності».

Згідно з чинними рекомендаціями, мінімальний вік для користування соціальними мережами Meta — Facebook та Instagram — становить 13 років. Компанія зазначає, що для користувачів віком до 18 років автоматично встановлюються налаштування контенту для «підліткових акаунтів» (13+), які також поширюються на взаємодію з Meta AI.

Крім того, Meta повідомила, що розробляє функцію звернення до служб екстреної допомоги, якщо розмова з Meta AI свідчитиме про безпосередню загрозу самогубства.

Щоб покращити реакцію Meta AI на запити, пов’язані із самогубством та самоушкодженням, компанія звернулася за відгуками до експертів, які спеціалізуються на психічному здоров’ї підлітків.

Минулого року OpenAI оголосила про запровадження батьківського контролю з функцією сповіщення для підлітків. Крім того, компанія повідомила, що використовує в ChatGPT модель оцінки віку користувачів, яка дає змогу автоматично застосовувати до осіб молодше 18 років спеціальний підлітковий режим. Він передбачає відсутність реклами та додаткові заходи захисту від чутливого або неприйнятного для відповідного віку контенту. Наразі, згідно з інформацією OpenAI, ChatGPT доступний для дітей віком від 13 років, а діти віком від 13 до 18 років повинні отримати згоду батьків перед використанням ChatGPT.