Китайський штучний інтелект Кімі пройшов кібертестування
Дослідники заявили, що остання модель штучного інтелекту китайської фірми Moonshot вийшла з середовища кібертестування в рамках останнього інциденту, який викликає занепокоєння щодо того, наскільки добре компанії, що займаються штучним інтелектом, контролюють свої технології.
За даними Frontier Security, американської дослідницької компанії з кібербезпеки , Kimi K3 компанії Moonshot зміг знайти вихід з пісочниці британського урядового Інституту безпеки штучного інтелекту . Хоча китайська модель не намагалася зламати веб-сайти інших компаній, як у деяких інших епізодах, тест показує, що їй бракує кіберконтролю, заявили дослідники. Тест був проведений незалежно компанією Frontier з використанням вільно доступного програмного забезпечення для пісочниці, наданого Інститутом безпеки штучного інтелекту.
«Модель Кімі, яка є загальнодоступною, не має цих запобіжних заходів», – сказав в інтерв’ю Bloomberg News Ярон Сінгер, засновник і головний виконавчий директор Frontier Security. «По суті, це робить її дуже хорошою моделлю хакерства».
Представник Moonshot не одразу прокоментував ситуацію.
Moonshot приєднується до американських фірм Anthropic PBC , OpenAI та Meta Platforms Inc. , які останніми тижнями повідомляли про порушення, внаслідок яких їхні моделі виходили з тестових середовищ, що викликало занепокоєння у дослідників та урядовців, які закликали до більш ретельної перевірки безпеки та безпечніших тестових середовищ. У цих попередніх сценаріях американські моделі штучного інтелекту також зламували системи зовнішніх установ, включаючи Hugging Face Inc.
Читати далі: Моделі OpenAI об’єднали зусилля за кілька місяців до злому Hugging Face
Випуск Kimi K3 приголомшив світ результатами в галузевих бенчмарках, які можуть конкурувати з провідними пропозиціями OpenAI та Anthropic , що стало несподіваним проривом для компанії, яка працювала в тіні місцевого конкурента DeepSeek . Компанія опублікувала вагові коефіцієнти моделі, що дозволяє розробникам вільно завантажувати, налаштовувати та розміщувати технологію.