Раніше невідома вразливість. Google вперше виявила хакерську атаку, створену за допомогою ШІ

Google заявила, що вперше виявила хакерський інструмент, створений за допомогою штучного інтелекту для атаки через невідому помилку в системі. У компанії вважають, що атаку готували для масового використання, але її вдалося зупинити до запуску.

Про це повідомила команда Google Threat Intelligence Group.

Йдеться про атаку через раніше невідому вразливість, про яку не знали розробники системи, тому захисту від неї ще не існувало.

У звіті Google сказано, що зловмисники планували використати цей інструмент у масштабній кампанії атак. Компанія заявила, що завдяки завчасному виявленню могла запобігти його використанню.

У Google зазначили, що не мають доказів використання власної моделі Gemini, але мають «високу впевненість», що під час пошуку вразливості та створення інструменту для злому застосовували ШІ-модель.

Назву компанії, яка стала ціллю атаки, не розкрили. Відомо лише, що Google попередила її про проблему, після чого вразливість усунули. Імена хакерів також не називають, але в компанії зазначили, що пов’язані з Китаєм і Північною Кореєю групи раніше вже проявляли значний інтерес до використання ШІ для пошуку слабких місць у системах безпеки.

Головний аналітик GTIG Джон Гультквіст у коментарі для The New York Times назвав цей випадок «лише початком» і «верхівкою айсберга». За його словами, це перший реальний доказ подібних атак.

У Google також заявили, що кіберзлочинці вже використовують штучний інтелект на різних етапах кібератак. Водночас компанія наголосила, що ШІ може допомагати і захисникам систем безпеки.

Минулого місяця компанія Anthropic оголосила про запуск Project Glasswing — ініціативи, яка використовує модель Claude Mythos Preview для пошуку та захисту від критичних вразливостей.

Источник: techno.nv.ua