Anthropic дозволяє незалежним дослідникам зазирнути «під капот» з доступом на рівні співробітників
Anthropic надає доступ на рівні співробітників шести дослідникам з METR , некомерційної організації, яка тестує передові моделі штучного інтелекту, для незалежної оцінки моделей Anthropic, практик безпеки та управління ризиками, повідомила компанія у своєму блозі.
Ця домовленість укладається в той час, коли з кінця серпня кожні один- два тижні викриваються випадки, коли агенти штучного інтелекту діяли поза межами своїх інструкцій . Ці інциденти загострили заклики до незалежних перевірок компаній, що займаються штучним інтелектом.
«Ми хочемо бути публічно відповідальними за рішення, які ми приймаємо», – йдеться у блозі Anthropic. «Ми прагнемо скоротити розрив між тим, що оцінювачі розуміють про системи передової компанії зі штучним інтелектом, і тим, що розуміє сама компанія».
Згідно з новою домовленістю, команда METR має ноутбуки компанії, офісні приміщення та доступ до внутрішніх інструментів, видані Anthropic, приблизно на рівні з тим, що використовують власні команди з оцінки ризиків Anthropic. «Співробітників Anthropic заохочують ділитися інформацією з ними так само, як вони б це робили з колегами, які працюють над ризиками узгодження», – заявили в компанії.
Anthropic порівняла цю схему з банківською діяльністю, подібно до того, як регулятори розміщують резидентних інспекторів у найбільших банках.
METR опублікує власні оцінки ризиків, інцидентів та практик Anthropic, і компанія відмовилася від права блокувати їх.
«Anthropic не може накласти вето на публікацію, але ми можемо вимагати від них редагування інформації, якщо вона підпадає під вузькі, заздалегідь визначені категорії», – заявила компанія, наприклад, дані клієнтів, будь-що, що є конфіденційною інформацією адвоката-клієнта, або стосується інформації про її модельні архітектури. «METR може вільно публічно характеризувати наші редагування та говорити, чи вважає вона редагування виправданим, за умови, що вона робить це, не розкриваючи відредаговану інформацію», – додала Anthropic.