Meta тепер сповіщає батьків, якщо їхній підліток обговорював самогубство з чат-ботом

Meta оголосила, що тепер повідомлятиме батьків, якщо їхній підліток обговорює самогубство або самоушкодження з чат-ботом Meta AI компанії. Meta також каже, що працює над можливістю зв’язуватися з екстреними службами, якщо чиїсь розмови свідчать про безпосередню загрозу самогубства.

Ці зміни відбуваються на тлі того, що Meta та інші технологічні компанії стикаються з пильною увагою з боку регуляторів та батьків щодо того, як чат-боти зі штучним інтелектом реагують на користувачів у кризових ситуаціях , особливо на підлітків — питання відповідальності, яке дедалі більше впливає на те, як компанії, що займаються штучним інтелектом, розробляють та продають свої продукти.

Meta стверджує, що створила спеціальну систему штучного інтелекту для виявлення розмов, у яких підліток чітко натякає на самопошкодження.

«Ми розуміємо, наскільки тривожними можуть бути ці сповіщення для батьків», – написав Мета у своєму блозі . «Ось чому, оскільки ми продовжуємо вдосконалювати наше виявлення, всі чати, позначені нашим штучним інтелектом, будуть перевірені вручну перед надсиланням сповіщення. Якщо наміри підлітка неоднозначні, ми будемо обережними та попередимо батьків. Хоча це означає, що ми іноді можемо повідомляти батьків, коли може не бути реальних причин для занепокоєння, ми вважаємо, що це правильна відправна точка, і ми продовжуватимемо стежити, щоб переконатися, що ми знаходимося в правильному місці».

За словами Мети, ці сповіщення вже доступні для батьків, які користуються функцією батьківського контролю в Instagram у США, Великій Британії, Австралії та Канаді, і до кінця року будуть розгорнуті в усьому світі.

Це оновлення базується на сповіщеннях, які Meta вже надсилає батькам, коли їхній підліток неодноразово шукає в Instagram терміни, що стосуються самогубства або самоушкодження. Воно також базується на функції, яка дозволяє батькам бачити теми, які їхній підліток обговорював з Meta AI протягом останнього тижня.

Meta також оголосила, що налаштування « Обмежений контент », яке дозволяє батькам обмежувати доступ до Instagram для своїх підлітків, тепер застосовується і до Meta AI. Meta AI вже навчений уникати сексуальних чи романтичних розмов або обговорень, пов’язаних з алкоголем, з підлітками, а налаштування «Обмежений контент» розширює ці запобіжні заходи, змушуючи чат-бота відхиляти ширший спектр запитів.