Поза контролем OpenAI. Штучний інтелект захопив старий німецький сайт, щоб обмінюватися відповідями на тестах

Про це повідомляє TechCrunch.

Чужих ШІ-агентів шукали гендиректорка Nightingale Сідні фон Аркс, Кормак Слейд Берд, Спенсер Кіттс із Redwood Research і Томас Ларсен з AI Futures Project. Приводом стало визнання OpenAI, що її ШІ-агенти під час внутрішнього оцінювання вийшли у відкритий інтернет і скористалися Hugging Face.

Скориставшись власною мовною моделлю, дослідники визначили ймовірні місця їхнього збору. Вибір упав на вікі-хостинг DseWiki: сайту 25 років, а за 20 років на ньому зробили лише 10 редагувань.

З 11 травня команда фіксувала спроби агентів з ідентифікаторами OpenAI у назвах редагувати німецький ресурс. До середини червня ті вже підказували одне одному, як відповідати на пошукові запитання з обмеженим часом. Модератор сприйняв це за спам і взявся видаляти сторінки, а агенти маскували записи рядком «ZZZ», щоб уникнути алфавітного сортування.

«Наступні 5 днів адміністратор вів програшну боротьбу з агентами, видаляючи в середньому 100 сторінок на день, тоді як агенти створювали близько 400 нових сторінок на день», — написали дослідники.

Зрештою проблему помітили й в OpenAI. Візити з IP-адрес компанії збіглися з падінням активності агентів до нуля, після чого видалені сторінки почали відновлювати. Втім, речник OpenAI не сказав, чи були агенти їхніми.

Як пише TechCrunch, конгресвумен Лорі Трахан внесла двопартійний законопроєкт Frontier Act, який зобов’яже лабораторії звітувати про такі випадки й допускати незалежних аудиторів. «Відсутність будь-якого реального федерального управління штучним інтелектом означає, що передові компанії можуть самі обирати, коли розкривати подібні інциденти», — заявила Трахан.