OpenAI запроваджує новий захист «Довірений контакт» для випадків можливого самоушкодження
OpenAI анонсувала нову функцію під назвою «Довірений контакт», призначену для сповіщення довіреної третьої сторони, якщо в розмові згадуються самоушкодження. Ця функція дозволяє дорослому користувачеві ChatGPT призначити іншу особу як довірений контакт у своєму обліковому записі, наприклад, друга чи члена родини. У випадках, коли розмова може перейти до самоушкодження, OpenAI тепер заохочуватиме користувача зв’язатися з цим контактом. Він також надсилає автоматичне сповіщення контакту, заохочуючи його зв’язатися з користувачем.
OpenAI зіткнувся з хвилею позовів від родин людей, які скоїли самогубство після розмови з його чат-ботом. У низці випадків родини стверджують, що ChatGPT підштовхував їхніх близьких до самогубства або навіть допомагав їм це спланувати .
OpenAI наразі використовує комбінацію автоматизації та перевірки людиною для обробки потенційно небезпечних інцидентів. Певні розмовні тригери сповіщають систему компанії про суїцидальні думки, яка потім передає інформацію команді з безпеки. Компанія стверджує, що щоразу, коли вона отримує таке сповіщення, інцидент перевіряє людина. «Ми прагнемо перевірити ці сповіщення про безпеку менш ніж за годину», – каже компанія.
Якщо внутрішня команда OpenAI вирішує, що ситуація становить серйозну загрозу безпеці, ChatGPT надсилає довіреній контактній особі сповіщення — електронною поштою, текстовим повідомленням або сповіщенням у додатку. Сповіщення розроблене коротким і заохочує контактну особу зв’язатися з нею. За словами компанії, воно не містить детальної інформації про те, що обговорювалося, як засіб захисту конфіденційності користувача.
Функція «Довірений контакт» дотримується запобіжних заходів, запроваджених компанією у вересні минулого року , які надали батькам можливість контролювати облікові записи своїх підлітків, зокрема отримувати сповіщення про безпеку, призначені для того, щоб попередити батьків, якщо система OpenAI вважає, що їхня дитина стикається з «серйозною загрозою безпеці». Вже деякий час ChatGPT також включає автоматичні сповіщення для звернення за професійною медичною допомогою, якщо розмова схиляється до теми самоушкодження.
Найголовніше, що Trust Contact є необов’язковим, і навіть якщо захист активовано для певного облікового запису, будь-який користувач може мати кілька облікових записів ChatGPT. Батьківський контроль OpenAI також є необов’язковим, що має аналогічне обмеження.
«Trusted Contact є частиною ширших зусиль OpenAI щодо створення систем штучного інтелекту, які допомагають людям у скрутні моменти », – написала компанія в оголошенні . «Ми продовжуватимемо співпрацювати з клініцистами, дослідниками та політиками, щоб покращити реакцію систем штучного інтелекту, коли люди можуть відчувати стрес».