Google стверджує, що хакер для зламу використовував штучний інтелект, що подібний до Mythos

Дослідники безпеки з Google, що належить Alphabet Inc., заявили, що, на їхню думку, кіберзлочинна група використовувала штучний інтелект для створення хакерського інструменту, який може обійти захист у широко використовуваному інструменті для адміністрування комп'ютерних систем.

Згідно зі звітом, опублікованим у понеділок, ця схема, яку було зірвано, коли Google попередив розробника інструменту, стала першим випадком, коли Група розвідки загроз Google викрила хакера, який використовував згенеровану штучним інтелектом «нульову вразливість» таким чином. Уразливості нульового дня – це недоліки, невідомі розробнику, що не залишає захисникам часу на виправлення, перш ніж їх можна буде використати.

Google заявив, що має «високий рівень впевненості» в тому, що штучний інтелект був використаний для виявлення та використання експлойту як зброї.

Компанія відмовилася назвати кіберзлочинну групу, уражене програмне забезпечення або модель великої мови програмування, яка використовувалася під час спроби атаки. Однак речник заявив, що дослідники не вірять, що експлойт був створений за допомогою Mythos від Anthropic PBC або власної моделі Google, Gemini.

Компанія також не повідомила, коли було виявлено експлойт, окрім того, що це було «нещодавно».

У квітні Anthropic заявила, що не буде широко випускати свою нову модель Mythos, оскільки спосіб, у який вона використовувала штучний інтелект для виявлення та використання недоліків програмного забезпечення, становив загрозу національній безпеці. Відтоді Білий дім вжив заходів для вирішення проблеми потенційного зловмисного використання моделей великих мов, а урядовці провели екстрені зустрічі з лідерами технологій та галузі.

Дослідники Google заявили, що їхні висновки свідчать про те, що такі загрози вже є реальністю.

Згідно зі звітом, хакерська група використала модель штучного інтелекту, щоб знайти раніше невідомий недолік в інструменті. Цей недолік міг бути використаний для обходу багатофакторної автентифікації, захисту безпеки, який часто додається на додаток до пароля, для отримання доступу до внутрішніх мереж організацій, що використовують програмне забезпечення.

У звіті йдеться, що Google попередив розробника інструменту, який виправив проблему, перш ніж хакери змогли застосувати його проти користувачів.

Компанії використовують веб-інструменти системного адміністрування для віддаленого налаштування та керування серверами, веб-сайтами та програмами. Це включає керування налаштуваннями безпеки, обліковими записами співробітників та дозволами цих облікових записів на доступ до систем і даних.