Anthropic відключає моделі штучного інтелекту вищого рівня після того, як США обмежили доступ до них іноземців
Дмитро Сизов
Anthropic заявила, що «раптово вимкне» свої найсучасніші моделі штучного інтелекту для всіх користувачів після того, як уряд США наказав їй призупинити доступ до моделей для іноземних громадян, посилаючись на проблеми національної безпеки.
Компанія отримала директиву з експортного контролю про призупинення доступу до Fable 5 та Mythos 5 для всіх іноземних громадян, не надавши конкретних подробиць щодо своїх проблем національної безпеки, йдеться у заяві Anthropic.
У компанії Anthropic заявили, що, на думку уряду, існує метод обходу, або «джейлбрейка», запобіжного заходу, який би запобіг використанню Fable 5 для виявлення вразливостей програмного забезпечення.
Наказ пролунав якраз на тлі того, як попередній спір між посадовцями адміністрації Трампа та компанією Anthropic, яка планує провести IPO, показав ознаки послаблення в різних частинах уряду США.
Відносини Anthropic з урядом цього року розірвалися після того, як уряд відмовився дозволити американським військовим використовувати їхні моделі штучного інтелекту для внутрішнього спостереження та повністю автономних систем озброєння. Уряд відповів, внісши Anthropic до чорного списку ланцюгів поставок, який має набути чинності пізніше цього року.
Ці дії також знаменують собою значну ескалацію зусиль США, спрямованих на зупинення можливостей штучного інтелекту іноземних супротивників. Роками експортний контроль США зосереджувався на чіпах та інструментах, що забезпечують роботу штучного інтелекту, а не на обмеженні доступу іноземних держав до самого штучного інтелекту.
Anthropic заявила, що уряд надав їй лише «усні докази потенційного вузького, не універсального джейлбрейка».
«Ми не погоджуємося з тим, що виявлення вузького потенційного джейлбрейка має бути підставою для відкликання комерційної моделі, яка розгорнута для сотень мільйонів людей», – заявила компанія.
Урядова директива та реакція Anthropic підкреслюють зростаючу напруженість між розробниками штучного інтелекту та регуляторами щодо того, як оцінювати ризики від так званих «джейлбрейків» або методів, що використовуються для обходу захисних заходів моделі.
Ще в середу Anthropic закликала до посилення контролю США над штучним інтелектом, включаючи можливість блокувати моделі з неприйнятними ризиками. Однак, вона заявила, що дії уряду в п'ятницю не відповідають принципам справедливого та заснованого на фактах регулювання.