OpenAI представляє режим блокування від атак швидкого впровадження

OpenAI анонсувала нову функцію, яка, за її словами, забезпечить додатковий захист від атак типу «промови впровадження», коли шкідливі інструкції чат-ботів приховані на веб-сторінках та в інших джерелах контенту.

Серед іншого, режим блокування вимкне перегляд веб-сторінок у реальному часі (тому ви зможете отримати доступ лише до кешованого контенту), отримання та відображення зображень з Інтернету (ви все ще можете створювати зображення), глибоке дослідження та режим агента.

Компанія стверджує, що навіть з увімкненим режимом блокування ChatGPT все ще може бути вразливим до введення запитів, які можуть, наприклад, «з’являтися в кешованому веб-контенті або в завантаженому файлі та все ще впливати на поведінку або точність відповіді».

Але мета полягає в тому, щоб зменшити ймовірність того, що конфіденційні дані будуть передані в цьому процесі.

«Режим блокування призначений не для всіх», — каже OpenAI. «Він розроблений для людей та організацій, які працюють із конфіденційними даними та хочуть суворішого захисту від ризиків витоку даних, пов’язаних із оперативним введенням даних».

Компанія заявляє, що зараз впроваджує режим блокування для бізнес-акаунтів самообслуговування ChatGPT, а також для відповідних особистих облікових записів.