ШІ від Anthropic “зламав” секретні системи США за кілька годин — AP

Модель штучного інтелекту Mythos від компанії Anthropic під час тестування виявила вразливості в урядових комп'ютерних системах США з високим рівнем захисту всього за кілька годин. Про це повідомляє Associated Press із посиланням на американського посадовця, обізнаного з результатами перевірки.

За словами джерела AP, Anthropic співпрацювала з американськими спецслужбами в межах Project Glasswing, спрямованого на оцінку ризиків найпотужніших ШІ-систем для громадської та національної безпеки. Під час випробувань Mythos змогла виявити низку слабких місць у секретних системах, хоча це не означає, що модель одразу отримала можливість їх експлуатувати.

Про результати тестування раніше згадав сенатор від штату Вірджинія Марк Ворнер під час слухань у Сенаті 11 червня. За його словами, інструмент “зламав майже всі наші секретні системи не за тижні, а за години”. Він послався на інформацію від керівника Агентства національної безпеки та Кіберкомандування, генерала Джошуа Радда.

Історія з'явилася на тлі суперечок між Anthropic та адміністрацією президента США Дональда Трампа щодо контролю над передовими моделями ШІ. На початку червня адміністрація вимагала від компанії обмежити доступ іноземних користувачів до новітніх моделей Fable 5 і Mythos 5 через потенційні ризики для кібербезпеки. Anthropic вимкнула передові ШІ для всіх, хоча заявила, що не погоджується з рішенням.

Після цього понад 100 експертів та представників технологічних компаній, серед яких Adobe та Nvidia, звернулися до уряду із закликом скасувати обмеження. У листі наголошується, що моделі Anthropic ефективно виявляють програмні вразливості та допомагають у захисті систем, але не мають унікальних можливостей порівняно з іншими сучасними моделями.

Ще до відключення Fable 5 та Mythos 5 експерти критикували компанію за те, що встановлені обмеження спрацьовують занадто часто та блокують нешкідливі запити. Якщо система вважала запит потенційно ризикованим, чат автоматично призупинявся. У такому випадку користувач міг отримати повідомлення про те, що механізми безпеки виявили теми, пов’язані з кібербезпекою або біологією.