Щоб захистити молодих користувачів, ChatGPT тепер передбачатиме їх вік

Оскільки занепокоєння щодо впливу штучного інтелекту на молодь продовжує зростати, OpenAI впровадила функцію «прогнозування віку» в ChatGPT, яка розроблена для того, щоб допомогти ідентифікувати неповнолітніх та встановити розумні обмеження щодо контенту в їхніх розмовах.

В останній час OpenAI зазнав жорсткої критики за вплив ChatGPT на дітей. З чат-ботом пов'язують низку самогубств серед підлітків , і, як і інші постачальники штучного інтелекту, OpenAI також критикують за те, що він дозволяє ChatGPT обговорювати сексуальні теми з молодими користувачами. У квітні минулого року компанія була змушена виправити помилку , яка дозволяла її чат-боту створювати еротику для користувачів віком до 18 років.

Компанія вже деякий час працює над проблемою неповнолітніх користувачів, а її нова функція «прогнозування віку» лише доповнює вже існуючі засоби захисту. Нова функція використовує алгоритм штучного інтелекту, який оцінює облікові записи користувачів на наявність певних «поведінкових сигналів та сигналів на рівні облікового запису», щоб ідентифікувати молодих користувачів, повідомила OpenAI у вівторковому блозі .

Ці «сигнали» включають такі речі, як зазначений вік користувача, час існування облікового запису та час доби, коли обліковий запис зазвичай активний, заявила компанія. Компанія вже має фільтри контенту, призначені для відсіювання обговорень сексу, насильства та інших потенційно проблемних тем для користувачів віком до 18 років. Якщо механізм прогнозування віку ідентифікує обліковий запис як такий, що не досяг 18 років, ці фільтри застосовуються автоматично.

Якщо користувача помилково позначено як неповнолітнього, у нього є спосіб відновити свій обліковий запис «для дорослих». За словами OpenAI, він може надіслати селфі партнеру OpenAI з перевірки особи, Persona.