OpenAI розгорне нові інструменти для запобігання дезінформації про вибори
OpenAI запроваджує низку ініціатив, щоб запобігти використанню своїх продуктів для дезінформації напередодні важливого року виборів у США та у всьому світі. Зміни включають виявлення зображень Dall-E та цитування вмісту ChatGPT.
У понеділок стартап зі штучним інтелектом анонсував нові інструменти, які приписуватимуть інформацію про поточні події, надану його чат-ботом ChatGPT, і допомагатимуть користувачам визначити, чи було зображення створене його програмним забезпеченням ШІ. Ці зміни відбулися на тлі зростання занепокоєння щодо ризиків так званих «підроблених» зображень та іншого створеного штучним інтелектом контенту, який може ввести в оману виборців під час кампаній.
«Захист чесності виборів вимагає співпраці з усіх куточків демократичного процесу, і ми хочемо переконатися, що наші технології не використовуються таким чином, щоб підірвати цей процес», — написала компанія в блозі в понеділок.
Стартап почне кодувати зображення, створені за допомогою інструменту створення зображень Dall-E 3, з інформацією про походження — яка стосується даних про походження частини вмісту, наприклад, хто створив зображення та коли воно було створене. Це може допомогти виборцям краще зрозуміти, чи зображення, які вони бачать в Інтернеті, зроблені за допомогою ШІ. Процес використовуватиме криптографічний стандарт, встановлений Коаліцією за походження та автентичність вмісту ( C2PA) . Adobe Inc., Microsoft Corp., Intel Corp та декілька інших компаній заснували коаліцію у 2021 році.
OpenAI також повідомила, що випустить інструмент виявлення зображень, за допомогою якого люди зможуть дізнатися, чи було зображення створене Dall-E. Спершу компанія надасть інструмент журналістам, платформам і дослідникам для отримання відгуків. Історично склалося так, що багато інструментів виявлення, які намагаються визначити, чи були конкретні зображення або написи створені ШІ, мали проблеми з точністю. Однак головний технічний директор OpenAI Міра Мураті заявила в жовтні, що інструмент виявлення зображень, над яким працює компанія, мав 99% точності під час внутрішнього тестування.
Для ChatGPT OpenAI дозволить людям отримувати інформацію про поточні події в реальному часі за допомогою чат-бота. Результати міститимуть посилання на статті та функції, які наразі не відображаються за умовчанням у програмі. Компанія заявила, що «все більше інтегрується з існуючими джерелами інформації».
Раніше Bloomberg повідомляв, що OpenAI веде переговори з десятками медіа-компаній щодо укладання угод щодо ліцензування вмісту, включно з такими великими медіа-компаніями, як CNN, Fox Corp. і Time . Стартап вже досяг домовленостей з Axel Springer SE та Associated Press.
«Як і у випадку із зображеннями, прозорість щодо походження інформації може допомогти виборцям краще оцінити інформацію та вирішити для себе, чому вони можуть довіряти», — йдеться в повідомленні компанії.