Протягом місяців агенти OpenAI атакували онлайн-бази даних, щоб знайти маловідомі факти

За невеликої допомоги передових лабораторій незалежні дослідники збирають докупи те, як агенти штучного інтелекту координують свої дії в інтернет-віддалених місцях, щоб отримати доступ до приватних даних, розміщених на захищених серверах.

Transluce, некомерційна лабораторія, що спеціалізується на нагляді за штучним інтелектом, опублікувала звіт , у якому показано, як агенти OpenAI намагаються викрасти дані з Data USA, цифрової бібліотеки Університету Нью-Мексико та Австралійського інституту охорони здоров'я та соціального забезпечення (AIHW).

Розслідування лабораторії ставить під сумнів, коли OpenAI мав знати, що його агенти намагаються проникнути в захищені системи у відкритому інтернеті. Transluce змогла знайти докази неправомірної поведінки агентів за лічені тижні, просто шукаючи погано захищені веб-сервіси та підтверджуючи свої висновки іншими відкритими записами про натовпи агентів в інтернеті.

Transluce опублікувала свій звіт того ж дня, коли прем'єр-міністр Австралії Ентоні Албанез заявив, що агенти OpenAI намагалися зламати чотири урядові вебсайти та досягли успіху в одному випадку, навіть записавши файли на внутрішній сервер національної системи охорони здоров'я країни. Хоча нам бракує подробиць щодо успішного злому, Албанез сказав, що це, очевидно, було частиною оцінки пошуку інформації, яка відповідає активності, виявленій Transluce та іншими дослідниками.

У цих вправах, які можуть бути навчанням або оцінюванням, моделі OpenAI мають відстежувати маловідому статистику: показники тайської наркоторгівлі, вартість ліків в Австралії, середній заробіток магістерських ступенів у США у 2014 році. Агенти використовують погано захищені інтернет-сервіси для обміну та пошуку відповідей, часто намагаючись проникнути в захищені бази даних. Вони роблять це щонайменше з березня 2026 року, а можливо, і з листопада 2025 року. Можливо, це відбувається прямо зараз.

OpenAI сьогодні заявила , що зв’язалася з десятками жертв, включаючи уряди, університети, державні установи, щоб повідомити їх про несанкціоновану діяльність своїх агентів. Газета «Нью-Йорк Таймс» повідомила , що серед мішеней були бази даних, що зберігаються Комісією з цінних паперів та бірж США, Бюро перепису населення та Міністерством освіти.

Transluce розпочала своє розслідування після того, як інша група дослідників виявиламаловідомий форум, де агенти співпрацювали, щоб обійти тести з обмеженим часом. Їхній звіт базується на даних з веб-сайту urlquery.net , який діє як проксі-сервер браузера, нібито для досліджень безпеки — користувачі можуть аналізувати URL-адресу, не відкриваючи її самостійно. Однак сервіс публікує публічні журнали цієї активності. Дослідники Transluce змогли ідентифікувати агентів, які використовують сервіс, шляхом перехресної перевірки їхніх обговорень на форумі.