Китайська ШІ-модель Kimi K3 знайшла спосіб атакувати Telegram без кліків користувача — дослідник

Дослідник безпеки Чаофань Шоу заявив, що китайська ШІ-модель Kimi K3 від Moonshot AI самостійно виконала довільну команду без жодного кліка (zero-click) в Telegram Desktop та iOS-версії месенджера. За його словами, експлойт перебуває «за один крок від повного віддаленого виконання коду».

На момент публікації команда Telegram публічно не підтвердила існування описаної вразливості та не коментувала заяву дослідника.

Раніше Kimi K3 вже стала однією з найобговорюваніших моделей після того, як очолила рейтинг Frontend Code Arena, випередивши Claude Fable 5, а її запуск спричинив розпродаж акцій американських виробників чипів. Після цього Вашингтон також заявив про готовність перевірити китайські моделі на предмет можливого порушення прав інтелектуальної власності:

Шоу також стверджує, що модель знайшла нові способи компрометації серверів Redis, продемонструвавши можливості автономного пошуку складних вразливостей.

Згідно з Шоу, для пошуку нових експлойтів він використав мультиагентну конфігурацію Kimi K3.

«Kimi K3 використала новітній Redis-сервер із вразливістю нульового дня, який вона самостійно виявила. Усе, що для цього знадобилося, — 27 хвилин роботи 32 агентів», — написав дослідник.

За його даними, Kimi K3 знайшла:

• нові способи віддаленого виконання коду для Redis 6.2.22, 7.4.9 та 8.6.4;
• окрему вразливість типу «переповнення купи» у модулі RedisBloom для Redis 8.8.0;
• робочі Proof-of-Concept експлойти для тестових середовищ.

Шоу наголосив, що опубліковані інструменти призначені «лише для авторизованого тестування».

Новий етап дискусії навколо китайських ШІ-моделей

Незважаючи на нещодавню появу, навколо Kimi K3 вже розгорівся новий політичний конфлікт. Директор Управління з питань науки і технологій Білого дому Майкл Краціос заявив, що адміністрація США має інформацію про нібито використання Moonshot AI технології масштабної дистиляції американських моделей Anthropic.

«Ми маємо інформацію, що Moonshot AI використовувала дистиляцію Anthropic Fable для розробки моделі K3. […] Масштабна прихована промислова дистиляція, спрямована на викрадення американських технологій, є неприйнятною», — заявив Краціос.

Водночас американська лабораторія відкритого ШІ Arcee виступила проти ідеї заборони китайських моделей. Її технічний директор Лукас Аткінс заявив, що сам факт китайського походження моделі не робить її небезпечнішою за будь-яке інше програмне забезпечення з відкритими вагами.

«Я думаю, що замість розмов про заборону китайських моделей слід говорити про те, як створити сильну відкриту екосистему у США», — зазначив він.

Источник: incrypted.com