Google Gemini на Android міг стати інструментом хакерів: виявлено небезпечну вразливість

Google Gemini значно спрощує повсякденні завдання, зокрема може озвучувати повідомлення під час керування автомобілем. Для цього помічник отримує доступ до даних із популярних застосунків, таких як WhatsApp, Slack та Instagram. Однак саме така інтеграція стала причиною потенційної загрози безпеці, адже штучний інтелект іноді не здатний чітко відрізнити звичайний текст від команди для виконання.

Фахівець із кібербезпеки Ор Яір із компанії SafeBreach виявив спосіб, за допомогою якого звичайне текстове повідомлення могло змусити Gemini виконувати сторонні команди. Для атаки не потрібно було встановлювати шкідливе програмне забезпечення на смартфон — достатньо було надіслати спеціально підготовлене повідомлення, яке ШІ сприймав як інструкцію.

Щоб обійти захисні механізми Google, дослідник використав метод, який створював для користувача хибне враження про те, що відбувається. Помічник міг показати запит на підтвердження незнайомою мовою, а потім одразу поставити просте запитання англійською. Користувач, не підозрюючи небезпеки, відповідав «так», фактично схвалюючи приховану команду. В іншому сценарії небезпечна інструкція маскувалася всередині посилання, яке Gemini не озвучував уголос.

Після отримання такого підтвердження зловмисники теоретично могли керувати пристроями розумного будинку, підключати телефон до відеодзвінків або створювати автоматичні завдання для читання особистих повідомлень. Дослідники також продемонстрували можливість так званого «отруєння пам’яті», коли помічник запам’ятовував неправдиву інформацію та переносив її між пристроями користувача.

Втім, користувачам Android хвилюватися не варто. SafeBreach повідомила про проблему Google ще минулого року, після чого компанія оперативно внесла зміни на стороні сервера. Завдяки цьому вразливість була усунута без необхідності встановлювати додаткові оновлення, а користувачі Gemini вже захищені від описаного сценарію атаки.

Думка редакції

Історія з вразливістю Gemini вкотре демонструє, що розвиток штучного інтелекту випереджає механізми його захисту. Чим більше повноважень отримують цифрові помічники, тим серйознішими можуть бути наслідки навіть невеликих помилок у їхній роботі.

Особливо тривожним є те, що для потенційної атаки не потрібне було шкідливе програмне забезпечення — достатньо звичайного повідомлення. Водночас позитивним сигналом є швидка реакція Google, яка усунула проблему ще до її масового використання. Цей випадок нагадує як розробникам, так і користувачам: зручність сучасних ШІ-сервісів завжди має супроводжуватися підвищеною увагою до питань безпеки та контролю над даними.

Источник: itechua.com