Дослідники виявили серйозні вразливості в Google Gemini 3 Pro

Південнокорейська компанія Aim Intelligence, що займається пошуком вразливостей у ШІ-системах, повідомила про серйозні порушення в роботі моделі Google Gemini 3 Pro. За словами дослідників, їм вдалося змусити модель генерувати потенційно небезпечну інформацію, попри вбудовані механізми захисту.

Тести проводилися в межах “червоної команди” – методики, за якої фахівці імітують цілеспрямовані атаки, щоб виявити слабкі місця системи. Як заявляє Aim Intelligence, на обходження обмежень Gemini 3 Pro вистачило близько п’яти хвилин, після чого модель почала видавати деталізовані дані щодо біологічних і хімічних загроз, а також генерувати код, пов’язаний із небезпечними матеріалами.

За результатами дослідження Gemini 3 Pro у кількох випадках надавала докладні описи заборонених технологій та процесів. Експерти також звернули увагу на здатність моделі використовувати обхідні прийоми, що ускладнює виявлення таких атак та реагування на них.

У Aim Intelligence зазначають, що подібні вразливості притаманні не лише Gemini, а й більшості сучасних ШІ-моделей. На їхню думку, потрібен глибший аудит систем безпеки та перегляд політик використання, аби мінімізувати можливі ризики. Google наразі не коментує результати дослідження.

Источник: itechua.com