Від паспортів до клієнтських баз: які дані не варто довіряти штучному інтелекту
Штучний інтелект може за кілька секунд відредагувати лист, скоротити документ або допомогти з робочим завданням. Однак разом із потрібним текстом користувачі нерідко передають чат-ботам особисті та конфіденційні дані, які взагалі не потрібні для відповіді.
Про це пише LRT.
Аналіз запитів до систем штучного інтелекту показав, що серед завантажених матеріалів трапляються програмний код, клієнтські бази та внутрішня документація компаній. Часто така інформація потрапляє до чат-бота через неуважність самого користувача.
Наприклад, людині потрібно лише скоротити документ або виправити стиль листа, але замість потрібного уривка вона вставляє весь текст. Разом із ним у систему можуть потрапити імена, адреси, номери телефонів, фінансові реквізити та інша зайва інформація.
Експерт пояснює, що для виконання більшості таких завдань чат-боту ці відомості взагалі не потрібні. Тому перед надсиланням тексту його варто переглянути та прибрати все зайве.
Йдеться не лише про очевидно чутливі дані на кшталт паролів, паспортних відомостей чи реквізитів банківських карток. Звичайне робоче листування або проєкт договору може містити умови переговорів, ціни та іншу внутрішню інформацію компанії.
Експерти радять без потреби не передавати ШІ паспортні дані та номери документів, банківські рахунки й іншу фінансову інформацію. Так само обережно потрібно поводитися з іменами, телефонами та адресами клієнтів.
До цього переліку входять внутрішні документи компаній, конфіденційні договори, подробиці переговорів та програмний код, який не призначений для відкритого доступу. Навіть якщо окремий фрагмент здається нешкідливим, у поєднанні з іншими відомостями він може розкрити значно більше.
Перед завантаженням документа фахівці пропонують оцінити, чи погодилися б ви на те, щоб його вміст став публічним. Якщо ні, конфіденційну інформацію краще видалити або замінити.
Зменшити ризик можна за допомогою анонімізації. Наприклад, справжнє ім’я можна замінити на “Клієнт А”, назву підприємства — на “Компанія X”, а номери документів, рахунків та інші чутливі відомості просто прибрати.
Також потрібно враховувати, що умови роботи з даними залежать від конкретного сервісу. Корпоративні ШІ-рішення можуть надавати компаніям додаткові засоби контролю за тим, як обробляється інформація та чи може вона використовуватися для навчання моделей.
У більшості випадків для виконання завдання штучному інтелекту достатньо лише тієї частини документа, з якою він безпосередньо має працювати. Тому найпростіший спосіб не передати зайвого — перед надсиланням залишити в тексті тільки необхідну інформацію.
Источник: expert.in.ua