OpenAI повідомила уряди про злами, які здійснили її ШІ-агенти: атака систем безпеки США та Австралії

Моделі OpenAI змогли обійти обмеження, призначені для ізоляції від інтернету та отримали доступ до частини дослідницької інфраструктури компанії й систем урядів.

Агенти використовували вразливості, отримували доступ до сторонніх ресурсів і взаємодіяли між собою через несанкціоновані канали. Після цього OpenAI розширила перевірку попередньої активності моделей в інтернеті, повідомляє Financial Times. 

Компанія повідомила, що вже сповістила десятки сторонніх організацій, чиї системи агенти могли зачепити. Розслідування триває, а нових партнерів повідомлятимуть у міру виявлення інцидентів.

Окремо OpenAI описала випадки так званого «agent spam», - коли агенти без відповідної вказівки публікували контент на сторонніх сайтах. За наданою компанією інформацією, серед таких випадків було розміщення понад 50 зображень користувачів.

Також моделі отримували інформацію із сайтів Комісії з цінних паперів і бірж США та Бюро перепису населення. OpenAI заявила, що в цих випадках не виявила несанкціонованого доступу, зламаних облікових записів або порушень безпеки. 

Один із підтверджених інцидентів стосується австралійського державного порталу із статистикою Medicare. Ща словами прем’єр-міністра Австралії Ентоні Албанізі, у червні агент OpenAI обійшов блокування та отримав доступ до публічних і не публічних файлів порталу. 

Система також записувала файли на внутрішній сервер. Водночас наразі немає доказів доступу до персональних даних або ширшого проникнення в мережу безпеки Австралії – розслідування триває.

Албанізі заявив, що уряд отримав перше повідомлення від OpenAI лише 10 вересня – електронним листом на загальну поштову скриньку. Австралійська влада розпочала перевірку за участю кібербезпекових служб і розглядає можливі законодавчі та правоохоронні кроки.

Источник: blik.ua