OpenAI прагне перевершити Anthropic за допомогою нових засобів захисту конфіденційності клієнтів

Зі зростанням потужності моделей штучного інтелекту зросла ймовірність їх неправильного використання, а також потреба в запобіжних заходах, які можуть запобігти таким зловживанням. Компанії, що займаються штучним інтелектом, тепер повинні балансувати між повагою до конфіденційності своїх корпоративних клієнтів та спостереженням за використанням на предмет можливих проблем.

Відчуваючи можливість перевершити свого конкурента Anthropic, OpenAI щойно оголосила про підхід до безпеки, орієнтований на конфіденційність, для моніторингу зловживань. Компанія анонсує новий сервіс для вибраних клієнтів під назвою Private Safety Processing. Це автоматизована система, яка відстежує потенційні зловживання, одночасно не зберігаючи жодних даних клієнта.

Ця система явно суперечить нещодавно оголошеній політиці Anthropic щодо зберігання даних. Політика, яка розлютила деяких клієнтів, дозволяє лабораторії штучного інтелекту зберігати дані користувачів (всі їхні сесії — і розмови в них) протягом 30 днів, якщо йдеться про «охоплені моделі». Ці моделі включають усі моделі класу Mythos та «майбутні моделі з аналогічними можливостями», заявляє компанія.

Ця політика, оголошена в липні, була розроблена з метою безпеки, дозволяючи лабораторії відсіювати та аналізувати потенційні порушення. Однак вона викликала глибоке занепокоєння у деяких підприємств, які обробляють великі обсяги конфіденційних даних і не хочуть, щоб лабораторія штучного інтелекту їх зберігала (або перевіряла).

OpenAI, як і більшість інших компаній, що займаються штучним інтелектом, вже надає клієнтам відносний рівень конфіденційності, дотримуючись політики, відомої як «Нульове зберігання даних». ZDR використовує агентів в API OpenAI для моніторингу зловживань на основі кожного сеансу. Таким чином, дані клієнтів не зберігаються компанією, але компанії все ще можуть сканувати на наявність шкідливої ​​активності без необхідності втручання людини. Варто зазначити, що Anthropic також значною мірою дотримується ZDR, за винятком випадків, коли йдеться про «покриті моделі», такі як Fable.

OpenAI стверджує, що Private Safety Processing (обробка приватної безпеки) – це нова технологія, яка розширює сферу застосування ZDR. Вона описує її як форму довгострокового моніторингу безпеки, яка оцінює вхідні та вихідні дані кількох розмов, а не лише однієї. Знову ж таки, моніторинг здійснюється агентом, який, якщо спрацьовує, фіксує взаємодії та аналізує їх протягом сеансів на наявність ознак потенційного зловживання.

Нова технологія допомагає OpenAI виявляти зловмисне використання штучного інтелекту, яке відбувається протягом кількох сеансів, повідомив речник TechCrunch. Зловмисник — гіпотетично хтось, хто намагається створити шкідливе програмне забезпечення для кібератаки — може розподілити свої запити, щоб уникнути виявлення. Private Safety Processing може аналізувати ці численні розмови на наявність ознак зловживань без перевірки розмов користувача людиною.

Натомість, Anthropic зазначає, що перевірка даних клієнтів людиною може відбуватися, але лише «через контрольований шлях доступу», який включає «невелику групу затверджених рецензентів». Кожен із цих сеансів перевірки «записується в журналі, захищеному від несанкціонованого доступу, який рецензенти не можуть придушити або змінити», – стверджує компанія.

Корпоративна конкуренція між OpenAI та Anthropic зараз напружена, обидві компанії шукають будь-яку можливість отримати перевагу над іншою. Нещодавній звіт показав, що у другому кварталі OpenAI зростала повільніше, ніж Anthropic. Річний темп зростання доходу Anthropic зараз, як повідомляється, становить 65 мільярдів доларів . Інвестори Anthropic заявили, що вона може провести IPO на рівні 2 трильйони доларів , в той час як OpenAI також працює над своїм IPO .