Anthropic розробила небезпечний ШІ Mythos і обмежила доступ до нього

Увага світового фінансового сектору прикута до розробки компанії Anthropic, яка наразі не доступна широкому загалу. Йдеться про модель Mythos, яку компанія свідомо не випускає у відкритий доступ через її потенційно ризиковані можливості.

За даними внутрішніх тестів, Mythos створювалася як інструмент кібербезпеки, однак продемонструвала здатність самостійно виявляти та використовувати вразливості в операційних системах і популярних браузерах. Фахівці зафіксували велику кількість критичних проблем безпеки, частина з яких могла існувати роками як “дірки нульового дня”.

Зараз доступ до моделі надається лише у контрольованому форматі. Її отримали окремі учасники оборонних та технологічних партнерств, серед яких великі компанії та організації, а також деякі фінансові установи. Також повідомляється про фінансування програм, спрямованих на виявлення та усунення вразливостей у програмному забезпеченні.

Водночас з’являлися повідомлення про можливий несанкціонований доступ до Mythos через сторонніх підрядників, що зараз перевіряється. Хоча ознак зловмисного використання поки не виявлено, ситуація викликала занепокоєння регуляторів. Експерти відзначають, що подібні системи можуть суттєво змінити підхід до кібербезпеки, оскільки здатні автоматизовано знаходити слабкі місця у складних ІТ-системах.

Источник: itechua.com