Чиновники в США стурбовані Mythos - новим штучним інтелектом від Anthropic

Міністр фінансів США Скотт Бессент та голова Федеральної резервної системи Джером Пауелл викликали лідерів Уолл-стріт, щоб терміново попередити їх : інструмент штучного інтелекту від Anthropic PBC знаменує собою початок нової ери кібербезпеки.

Зустріч 7 квітня у Вашингтоні була зосереджена на Mythos, новій моделі штучного інтелекту, яка, за словами Anthropic, настільки добре знаходить вразливості в програмному забезпеченні та комп'ютерних системах, що може бути випущена лише обмеженій кількості ретельно відібраних сторін. Якщо такі інструменти, як Mythos, потраплять у чужі руки, каже Anthropic, це може надати зловмисникам потужну нову зброю для крадіжки даних або порушення роботи критично важливої ​​інфраструктури.

Протягом останніх кількох років компанії з кібербезпеки обіцяли, що штучний інтелект пришвидшить та автоматизує частину роботи із запобігання цифровим порушенням. Але хакери та кібершпигуни також виявили переваги ШІ. Поява Mythos та подібних моделей, які можуть використовувати добре приховані недоліки в популярному програмному забезпеченні без нагляду людини, вказує на швидшу та менш передбачувану фазу гонки кіберозброєнь.

Що таке Міфос?

Claude Mythos Preview — це модель штучного інтелекту загального призначення, яка, за словами Anthropic, значно перевершує попередні пропозиції за низкою тестів, зокрема для кодування та логічного мислення. Компанія стверджує, що вона настільки потужна, що вирішила не випускати її для публічного оприлюднення. Компанія пояснила, що деякі моделі штучного інтелекту досягли рівня можливостей кодування, який дозволяє їм перевершити всіх, крім найкваліфікованіших людей, у пошуку та використанні вразливостей програмного забезпечення.

За даними Anthropic, Mythos Preview вже виявила тисячі вразливостей «нульового дня» під час тестування, зокрема в кожній основній операційній системі та кожному веббраузері. «Нульові дні» – це недоліки, які раніше були невідомі розробникам програмного забезпечення — назва означає, що у них є нульові дні, щоб створити патч для вирішення проблеми. Вони часто є золотою жилою для хакерів, оскільки пропонують вікно вільного доступу всередині вразливих систем.

За словами Anthropic, Mythos змогла ідентифікувати їх із ще меншим втручанням людини, ніж попередні моделі. «Mythos Preview демонструє стрибок у цих кібернавичках — виявлені вразливості в деяких випадках витримали десятиліття перевірки людиною та мільйони автоматизованих тестів безпеки», — заявила компанія. В руках угруповання вимагачів або ворожих урядів такий інструмент може призвести до більш руйнівних та частих кібератак.

Дослідники кажуть, що їм не надали доступу для незалежної перевірки заяв Anthropic щодо продуктивності Mythos. Ган Ван, доцент кафедри інформатики в Університеті Іллінойсу, сказав, що важко оцінити значення Mythos Preview без додаткового практичного тестування.

Хто матиме до нього доступ?

Anthropic називає свій план надання доступу обмеженій групі перевірених партнерів Project Glasswing , на честь виду метелика з прозорими крилами, що дозволяють йому ховатися на видноті. Серед учасників є Amazon.com Inc. , Apple Inc. , Google (корпорація Alphabet Inc. ), Microsoft Corp. , Nvidia Corp. , Palo Alto Networks Inc. , CrowdStrike Holdings Inc. , Broadcom Inc. , Cisco Systems Inc. , JPMorganChase та Linux Foundation , некомерційна організація, яка підтримує проекти програмного забезпечення з відкритим кодом. Anthropic описала проект як «термінову спробу використати ці можливості в оборонних цілях».

Ці організації використовуватимуть Mythos як частину своєї роботи з захисної безпеки, а Anthropic планує поділитися результатами проєкту, щоб інші могли скористатися ними. Багато компаній вже використовують так звані вправи з проникнення, в рамках яких вони наймають спеціалістів для дослідження своїх систем на наявність помилок, щоб вони могли виправити їх, перш ніж хакери проникнуть всередину. Mythos може дозволити компаніям пришвидшити цей процес, що дозволить їм швидше знаходити більше недоліків і звужувати можливості для потенційних атак.

Чому Anthropic вважає випуск Mythos «переломним моментом»?

Anthropic описала Mythos Preview як «переломний момент для безпеки». За своєю природою, вразливості нульового дня важко знайти, і навколо їх пошуку та продажу урядовим розвідувальним службам, часто за мільйони доларів, була побудована невелика та темна індустрія. За даними Anthropic, виявлені Mythos Preview вразливості часто були «непомітними та важкими для виявлення» та включали 27-річну ваду в OpenBSD, операційній системі, яка, за словами Anthropic, має репутацію однієї з найбільш захищених у світі.

Також нібито Mythos була здатна перетворювати відомі, але не широко виправлені вразливості на «експлойти», які хакери могли використовувати для проникнення в комп’ютерні мережі. Наприклад, вона знайшла та об’єднала кілька недоліків у ядрі Linux — ядрі операційної системи та програмному забезпеченні, яке керує більшістю інтернет-серверів світу — щоб дозволити зловмиснику отримати повний контроль над машиною. Неексперти також попросили Mythos Preview знайти способи віддаленого контролю над комп’ютерами протягом ночі та повернулися наступного ранку до повноцінного, робочого експлойту, повідомила Anthropic.