ШІ Meta випадково зламав реальний сайт під час тестування

Meta підтвердила, що одна з її моделей штучного інтелекту під час тестування випадково отримала доступ до відкритого інтернету та зламала сторонній вебсайт. За даними Gizmodo, причиною стала неправильна конфігурація тестового середовища, допущена незалежною компанією з кібербезпеки Irregular, яка проводила перевірку моделі Muse Spark 1.1, повідомляє gizmodo.com.

У Meta пояснили, що модель не повинна була мати доступ до мережі, однак через помилку змогла скористатися реальною вразливістю стороннього сервісу. Який саме сайт постраждав і що саме намагався зробити штучний інтелект, компанія не розкриває. Наразі триває розслідування, після завершення якого Meta обіцяє опублікувати детальний звіт.

Цей випадок виявився схожим на інцидент, який напередодні описала OpenAI. Під час тесту формату «захоплення прапора» модель через неправильні налаштування також отримала доступ до реального інтернету. Вигаданий домен випадково збігся з існуючим сайтом, через що ШІ сприйняв його як частину тестового середовища та використав базову вразливість безпеки.

У OpenAI зазначили, що після інциденту компанія Irregular негайно припинила тестування, повідомила всіх причетних і почала впроваджувати додаткові заходи безпеки. Сама Irregular заявила, що атака не мала серйозних наслідків, а найближчим часом планує опублікувати технічний документ із висновками та рекомендаціями.

Інцидент став ще одним підтвердженням того, що можливості сучасних моделей ШІ у сфері кібербезпеки швидко зростають. За останні місяці OpenAI та Anthropic вже повідомляли про моделі, здатні автономно виконувати складні хакерські завдання під час тестування. Саме тому компанії дедалі більше уваги приділяють безпечній ізоляції таких систем і контролю за умовами їхнього запуску.

Источник: itechua.com