Ажіотаж довкола Mythos від Anthropic: чому нова модель ШІ налякала уряди та світові банки

Компанія Anthropic веде переговори з урядом США щодо своєї нової моделі штучного інтелекту Mythos, яку вважає надто небезпечною для публічного доступу. За словами представників компанії, система створює “безпрецедентні ризики кібербезпеки” через здатність виявляти вразливості та потенційно використовувати їх. До обговорення долучилися уряди, фінансові регулятори та найбільші банки світу, пише EuroNews.

“Наша позиція полягає в тому, що уряд повинен бути в курсі цих питань... Тож, звичайно, ми обговорюємо з ними модель Mythos, і будемо обговорювати з ними й наступні моделі”, — заявив співзасновник Anthropic Джек Кларк на заході Semafor World Economy у Вашингтоні.

Занепокоєння навколо моделі виникло на тлі попереднього конфлікту між Anthropic і Пентагоном щодо обмежень використання ШІ у військових цілях. Після зриву переговорів Міністерство оборони США внесло компанію до списку ризиків для ланцюга постачань і заборонило використання її технологій.

“У нас виникла невелика суперечка щодо контракту, але я не хочу, щоб це затьмарило той факт, що ми дуже піклуємося про національну безпеку”, — додав співзасновник Anthropic.

Фінансовий сектор також відреагував на нову розробку. Міністр фінансів США Скотт Бессент минулого тижня зібрав керівників провідних банків для обговорення Mythos, а за даними Bloomberg, їх заохочують тестувати модель для виявлення кіберзагроз.

Anthropic планує обмежити доступ до Mythos і надати його лише окремим технологічним та кібербезпековим компаніям, зокрема Amazon, Apple та JP Morgan Chase. За інформацією Bloomberg, модель також тестують Goldman Sachs, Citigroup, Bank of America та Morgan Stanley.

У Великій Британії урядовий Інститут безпеки штучного інтелекту (The AI Security Institute, AISI) попередив, що Mythos є “кроком” уперед порівняно з попередніми моделями за рівнем кіберзагроз. Financial Times повідомляє, що фінансові регулятори країни також оцінюють потенційні ризики системи.

Як зазначає Reuters, модель Mythos, представлена 7 квітня, позиціюється Anthropic як найпотужніша для задач програмування та автономної роботи. Експерти вказують, що її здатність до складного кодування може дозволити не лише виявляти слабкі місця в системах, а й створювати способи їх експлуатації.