Заборона антропних моделей урядом США ніколи не була пов'язана з джейлбрейком штучного інтелекту
Лист уряду США до Anthropic, який фактично змусив компанію вивести свої останні моделі штучного інтелекту з мережі безпосередньо перед вихідними, має стати сигналом тривоги для будь-якої американської технологічної компанії — лабораторії штучного інтелекту чи іншої.
Щоб не пропустити короткі новини: у п'ятницю вдень Міністерство торгівлі США надіслало Anthropic листа, посилаючись на незрозумілу директиву про експортний контроль, яка забороняла неамериканцям, включаючи співробітників Anthropic, доступ до Fable 5 та Mythos 5, посилаючись на невказане занепокоєння національної безпеки. Anthropic заявила, що, на її думку, лист пов'язаний з обходом захисних огорож моделі, але не впевнена, оскільки лист не містить конкретних деталей. Лист не був оприлюднений.
У відповідь Anthropic закрила обидві свої топові моделі для всіх клієнтів, щоб забезпечити дотримання директиви. В результаті уряд США успішно змусив технологічну компанію вилучити свої моделі з мережі швидкими та односторонніми діями, які, схоже, не потребували схвалення суду.
П'ятничне втручання адміністрації Трампа показує, що індустрія штучного інтелекту не застрахована від втручання уряду. Це також попередження для ширшої технологічної галузі: дотримуйтесь правил, інакше ми можемо закрити вас і ваші продукти.
Посилаючись на джерела, Axios описав напружену ситуацію, що виникла протягом вихідних між двома основними гравцями, заявивши, що до експортної директиви призвели «розбіжності в характерах» між Anthropic та адміністрацією Трампа, а не технічна проблема з продуктами штучного інтелекту.
Нові подробиці щодо цього питання, що з'явилися минулими вихідними, тепер ставлять під ще більший сумнів і без того невпевнену логіку уряду.
Кеті Муссуріс, ветеран кібербезпеки та дослідниця, яка заснувала Luta Security, розповіла у своєму блозі , що Anthropic нещодавно поділилася з нею приватною копією статті, написаної дослідниками безпеки, в якій описується нібито обхід огорожі у Fable 5. (The Wall Street Journal повідомляє, що авторами статті є дослідники безпеки з Amazon ). Муссуріс сказала, що Anthropic звернулася до неї, щоб попросити її поділитися думкою про цю статтю.
У своєму блозі Муссурі описав, як дослідники запустили обхід захисного огородження, але зазначив, що сам обхід «ніколи не повинен був запускати експортний контроль». Різниця значною мірою полягає між проханням до моделі штучного інтелекту «переглянути код на наявність проблем безпеки» та проханням «виправити цей код». Кінцевий результат значною мірою однаковий, навіть якщо питання поставлені дещо по-різному.
«Поведінку, описану в документі, неможливо суттєво виправити, і будь-яка спроба лише послабить модель оборони», – сказав Мусуріс, який розкритикував директиву про експортний контроль як поспішну, надмірно жорстку та помилкову.
Мусуріс та десятки інших провідних дослідників і експертів з безпеки з того часу закликали адміністрацію Трампа скасувати наказ про експортний контроль , назвавши крок щодо вилучення передових можливостей кібербезпеки від мережевих захисників у США «небезпечним».
Попередні адміністрації приймали радикальні рішення щодо прогалин у знаннях. Наприклад, формулювання, яке використовував уряд США протягом 2010-х років для вдосконалення законодавства про експорт, що охоплює інструменти кібербезпеки, які також могли бути використані для кібератак, було настільки широким, що ненавмисно майже заборонило законні дослідження безпеки та вразливостей.
Однак директива адміністрації Трампа виглядає як відповідь у відповідь.
Джастін Хендрікс, редактор Tech Policy Press , заявив, що крок адміністрації Трампа «ймовірно викличе тривогу в іноземних столицях щодо надійності американського штучного інтелекту для критично важливих застосувань». Посил полягає в тому, що компаніям, що займаються штучним інтелектом у Сполучених Штатах, не можна довіряти їхню роботу без втручання з боку уряду США.
Адміністрація Трампа не підтвердила, чому вона застосувала свою директиву про експортний контроль. Чи неправильно чиновники прочитали звіт і злякалися? Чи генеральний директор Amazon Енді Джассі сказав щось високопосадовцям уряду, що викликало таку реакцію, з обережності чи злості? Чи щось втратилося в перекладі, чи це був спосіб чинити тиск на Anthropic, з якою адміністрація вже має напружені стосунки ? Можливо, Білий дім не знав про далекосяжні наслідки вимоги листа, і чиновники намагаються виправити шкоду, яку самі ж завдали.
Цитуючи Гендрікса, «створюється атмосфера підозри, що високопосадовці обирають фаворитів на основі особистих та політичних чинників». Наслідком цього є те, що уряд створив небезпечний прецедент щодо того, наскільки він має намір контролювати випуск програмного забезпечення американського виробництва.
Цього разу уряд висловив незгоду з Anthropic; завтра це може статися з будь-ким іншим.