Хакери КНДР створили перший вірус для macOS, який навчився обманювати ChatGPT і Claude

Північнокорейські кіберзлочинці вийшли на новий рівень атак, створивши шкідливе програмне забезпечення для macOS, яке не лише викрадає дані користувачів, а й здатне вводити в оману сучасних ШІ-агентів. 

Незвичайний вірус під назвою Gaslight виявили фахівці компанії SentinelOne. Його головною особливістю стала здатність впливати на інструменти штучного інтелекту, зокрема ChatGPT та Claude, які дедалі частіше використовуються експертами для аналізу шкідливого програмного забезпечення.

Gaslight використовує фальшиві інструкції для штучного інтелекту

На відміну від традиційних вірусів, Gaslight не обмежується лише викраденням інформації чи отриманням контролю над комп'ютером. Усередині шкідливого коду дослідники виявили 38 підроблених «системних повідомлень», які спеціально оформлені так, щоб виглядати як службові інструкції для моделей штучного інтелекту.

Якщо аналітик використовує ChatGPT, Claude або іншого ШІ-помічника для дослідження цього вірусу, модель може сприйняти такі повідомлення як справжні системні команди. У результаті ШІ здатний передчасно завершити аналіз, повідомити про нібито нестачу оперативної пам'яті, заявити про помилки в системі або навіть зробити неправильні висновки щодо роботи шкідливого програмного забезпечення.

Що ще вміє вірус

Попри незвичайний механізм впливу на штучний інтелект, Gaslight також має класичний набір можливостей сучасного інформаційного викрадача.

• викрадає дані з браузерів Chrome, Brave, Firefox і Safari;
• збирає інформацію про операційну систему та комп'ютер користувача;
• надає зловмисникам віддалений доступ через командний рядок;
• дозволяє виконувати додаткові команди на зараженому пристрої.

З технічної точки зору більшість цих функцій давно використовуються іншими шкідливими програмами. Саме тому дослідники вважають, що найбільшу небезпеку становить не функціональність вірусу, а його здатність впливати на автоматизовані системи аналізу.

Штучний інтелект стає новою мішенню хакерів

Сьогодні дедалі більше спеціалістів із кібербезпеки використовують ШІ-агентів для прискорення аналізу підозрілих файлів, пошуку ознак компрометації та дослідження складного шкідливого коду. Це значно економить час і допомагає швидше реагувати на кіберінциденти.

Втім, поява Gaslight демонструє, що кіберзлочинці вже адаптуються до нових умов. Вони починають писати код таким чином, щоб вводити в оману не лише людей, а й системи штучного інтелекту, які допомагають захищати цифрову інфраструктуру.

Новий напрямок розвитку кіберзагроз

Подібний підхід може стати початком нового етапу розвитку шкідливого програмного забезпечення. Якщо раніше віруси були орієнтовані виключно на обхід антивірусів і систем захисту, то тепер вони можуть навмисно маніпулювати алгоритмами штучного інтелекту, які беруть участь у процесі розслідування інцидентів.

Фахівці з кібербезпеки звертають увагу, що це ще один сигнал про необхідність перевіряти результати аналізу, виконаного ШІ, традиційними методами. Попри стрімкий розвиток великих мовних моделей, вони залишаються вразливими до спеціально створених інструкцій, які можуть змінювати логіку їхньої роботи. Саме тому штучний інтелект сьогодні варто розглядати як потужний допоміжний інструмент, але не як повністю автономного експерта, здатного безпомилково аналізувати складні кіберзагрози.

Источник: ilenta.com