Anthropic працює над системою для підтвердження ідентичності моделей штучного інтелекту

 Anthropic працює над системою з відкритим кодом для перевірки того, яка модель штучного інтелекту видала певний результат. Система під назвою FlashProve створена для забезпечення того, що дослідники називають «доказовим висновком» — криптографічним доказом, по суті математичною гарантією того, що певний результат походить від певної моделі. Вона призначена для того, щоб дозволити користувачам підтвердити, що отримана ними відповідь дійсно походить від моделі, яку, на їхню думку, вони використовують.

Подібно до криптографічних підписів електронних листів , які дозволяють одержувачам підтвердити, що повідомлення справді надійшло від заявленого відправника, FlashProve буде стійким до самозванців, які намагаються замаскувати одну модель під іншу, навіть якщо самозванцем є лабораторія, яка створила та запускає модель. Зокрема, дослідники зазначають, що система може бути використана для запобігання таємній заміні компанією, що займається штучним інтелектом, дешевшої моделі для скорочення витрат або дорожчої моделі для завищення результатів продуктивності.

FlashProve також можна використовувати для перевірки заяв третіх сторін про те, що певне завдання було виконано за допомогою просунутої моделі. «Розробник може стверджувати, що його бібліотеку програмного забезпечення було перевірено на наявність вразливостей за допомогою передової моделі кібербезпеки, або компанія може стверджувати, що її бізнес-план отримав схвалення відповідної моделі», – пишуть дослідники. «Як користувач може перевірити ці заяви?»

Щоб система працювала, лабораторії штучного інтелекту повинні публікувати «відбиток» кожної моделі, яку вони випускають, який пізніше можна зіставити з певними результатами та криптографічно перевірити. Найголовніше, що відбитки не розкривають ваги моделі, внутрішні числа, які визначають її поведінку, та які дані виробники закритих моделей, такі як Anthropic та OpenAI, зберігають у таємниці. Це означає, що лабораторії можуть публікувати відбитки, не втрачаючи свій найцінніший актив, що дозволяє системі працювати й з комерційними моделями. Система також розроблена як легка, тому перевірку можна виконувати на локальному пристрої.

В рамках оголошення дослідники опублікували детальну технічну специфікацію та робочий код для різних елементів системи, які є загальнодоступними за ліцензією з відкритим кодом на GitHub . Дослідження системи тривають, і немає планів щодо її розгортання в Anthropic чи будь-якій іншій лабораторії.

«Ця дослідницька публікація призначена для того, щоб поділитися проміжним прогресом, а не завершеним планом досліджень», – пояснюють дослідники в оголошенні. «Ми ділимося цим з явною метою, щоб інші подивилися на те, що ми зробили, взяли це до уваги та вдосконалили».