Google Gemini повідомлятиме батьків, якщо дитина говоритиме про самогубство

Google працює над новою функцією безпеки для чат-бота Gemini, яка автоматично повідомлятиме батьків, якщо дитина говоритиме з ШІ про самоушкодження. Нова можливість інтегрується в систему батьківського контролю та має допомогти вчасно помічати потенційні загрози для неповнолітніх. Про це повідомляє видання Android Authority.

Фахівці Android Authority виявили згадки про нову функцію у версії 17.73.15 застосунку Google. Згідно з прихованим кодом, діти побачать спеціальне попередження про те, що батьки отримуватимуть сповіщення, якщо Gemini виявить розмови про заподіяння шкоди собі.

Наразі батьки можуть обмежувати доступ до застосунків і налаштовувати фільтри контенту через Family Link. Однак нова функція піде далі: вона не просто блокуватиме небезпечні відповіді чат-бота, а й відстежуватиме тривожні повідомлення від самих дітей.

Водночас автоматичні сповіщення можуть мати й негативні наслідки. Експерти побоюються, що підлітки, знаючи про контроль з боку батьків, почнуть приховувати свої переживання та рідше говоритимуть із ШІ про психологічні проблеми.

Google поки офіційно не анонсувала нову можливість і не повідомила дату її запуску. У коді також знайшли згадки про розробку обмежень щоденного часу використання Gemini. Це свідчить, що компанія поступово розширює інструменти батьківського контролю для захисту дітей під час взаємодії зі штучним інтелектом.

Источник: itechua.com