Хакери отримали доступ до найбільш небезпечного штучного інтелекту в світі

Хакери отримали несанкціонований доступ до Mythos — закритої ШІ-моделі компанії Anthropic, яку там вважають надто потужною та ризикованою для публічного запуску через «безпрецедентні загрози кібербезпеці». Про це повідомляє Bloomberg.

Mythos розробляється в рамках проєкту Glasswing і призначена для корпоративної кібербезпеки. Доступ до моделі Anthropic навмисно обмежила — її тестують лише кілька технологічних компаній та фінансових установ, зокрема Amazon, Apple, JP Morgan Chase, Goldman Sachs, Citigroup, Bank of America та Morgan Stanley.

За даними Bloomberg, несанкціонована група отримала доступ до Mythos через стороннього постачальника послуг, який співпрацює з Anthropic. Джерело з компанії-підрядника розповіло виданню, що зловмисники перебрали кілька стратегій, перш ніж таки увійшли до системи. Після цього вони регулярно користувалися моделлю.

Учасники групи спілкуються у закритому каналі на платформі Discord. Спільнота спеціалізується на пошуку інформації про ще не випущені ШІ-моделі та ранній доступ до них.

Представник Anthropic повідомив TechCrunch, що компанія вивчає публікацію Bloomberg. За його словами, наразі немає свідчень того, що описана активність якось вплинула на системи Anthropic.

Навколо Mythos існує і політичний вимір. У квітні міністр фінансів США Скотт Бессент скликав у Вашингтоні зустріч керівників найбільших американських банків, присвячену цій моделі. Учасників наради закликали використовувати Mythos для виявлення вразливостей у фінансовій системі.

Інцидент із несанкціонованим доступом загострює дискусію про те, наскільки безпечно залучати сторонніх підрядників до роботи з чутливими ШІ-системами, які самі по собі позиціонуються як інструмент захисту від кіберзагроз.

Источник: noworries.news