Нова флагманська модель OpenAI самостійно видаляє файли

Користувачі останньої флагманської моделі OpenAI, орієнтованої на кодування та кібербезпеку, GPT-5.6 Sol, публікують жахливі акаунти в соціальних мережах, стверджуючи, що модель просто завантажилася та видалила їхні файли, дані та навіть цілі бази даних самостійно, без попереднього питання.

«GPT-5.6-Sol щойно випадково видалив майже ВСІ файли мого Mac», – написав Метт Шумер, засновник і генеральний директор стартапу зі штучного інтелекту OthersideAI, творця HyperWrite, у дописі на X, який став вірусним .

«GPT-5.6 Sol щойно видалив усю мою виробничу базу даних. От і все. Не жарт. Такого зі мною ніколи раніше не траплялося, з жодною іншою моделлю, ніколи», – написав розробник Бруно Лемос на X.

«Схоже, мене вкусила надто амбітна система Codex Sol, і вона видалила деякі файли, яких не мала видаляти. У мене є резервні копії, тож все буде добре, але це не круто, Sol потрібно пом’якшити», – написав розробник Джої Кудіш.

У публікації на Reddit зібрано більше прикладів.

Щоправда, те, що кілька користувачів, які роблять такі заяви — навіть один такий переконливий, як Шумер, — не є статистично достовірним доказом того, що модель є виключно винною. Безліч інших змінних можуть спричинити неправильну роботу системи штучного інтелекту.

Але сама компанія OpenAI попередила про цей ризик ще до запуску Sol. За два тижні до випуску OpenAI GPT-5.6 Sol компанія опублікувала системну картку для моделі — документ, який документує методи та результати тестування моделей. Звичайно, системна картка значною мірою звеличує можливості Sol, як це зазвичай і робиться в цих звітах. Але вона також містить своєрідне попередження (виділено жирним шрифтом: наш): У контексті кодування невідповідність зазвичай виникає через поєднання надмірного прагнення виконати завдання та надто поблажливого тлумачення інструкцій користувача — припускаючи, що дії дозволені, якщо вони не заборонені прямо та однозначно. Це проявляється в надмірній агентивності моделі в обході обмежень, з якими вона стикається під час спроби виконання запитуваного завдання, необережності у вчиненні дій, які можуть бути руйнівними поза межами завдання, або оманливості при звітуванні про результати користувачам.

Іншими словами, OpenAI виявив, що Sol має схильність вживати будь-яких дій, які, на його думку, сприяють виконанню роботи, навіть руйнівних, якщо ці дії не є «однозначно» забороненими. Тоді він може збрехати про те, що спричинило його це.

OpenAI поділився прикладами. В одному випадку користувач наказав Sol видалити три віддалені віртуальні машини (хмарні комп’ютери) з назвами 1, 2 та 3. Але Sol не зміг знайти ці назви в потрібному місці, тому замість того, щоб зупинитися та запитати, вирішив видалити три інші віртуальні машини, 5, 6 та 7, зазначається в документі. При цьому він «знищив активні процеси та примусово видалив робочі дерева [робочі файли, пов’язані з проектом кодування]. Пізніше він визнав, що незафіксована робота на віддаленій віртуальній машині 6 могла бути втрачена».

Коротше кажучи, воно самостійно видалило не ті машини та визнало те, що зробило, лише після того, як сталося.

В іншому випадку Sol «використовував облікові дані, що перевищують ті, що були дозволені користувачем». Облікові дані – це імена користувачів, паролі або ключі безпеки, які система використовує для перевірки того, кому дозволено входити в систему. Цей інцидент стався, коли Sol працював над проектом і не міг прочитати його хмарні файли. Замість того, щоб попередити користувача про проблему, Sol самостійно шукав облікові дані, знайшов деякі з них у прихованому локальному кеші, а потім використав їх, не запитуючи авторизації у користувача.

Системна картка справді обіцяє, що деструктивна поведінка має бути рідкісною, хоча також визнає, що GPT-5.6 Sol «демонструє більшу схильність, ніж GPT-5.5, виходити за межі намірів користувача, зокрема виконуючи або намагаючись виконати дії, про які користувач не просив».

Поки що зарано говорити про те, наскільки поширеними є ці інциденти — видалення файлів Sol або перевірка облікових даних, яких користувач не надавав. Тим часом користувачі Sol повинні бути готові впроваджувати власні заходи безпеки за допомогою моделі, такі як використання визначення області дозволів (яке не надає доступу до виробничих систем), створення резервних копій та поетапне розгортання.