Недоліки відкритості. Дослідники виявили проблеми з безпекою нової моделі DeepSeek

Нова модель штучного інтелекту DeepSeek V4.1-Flash-1017 стала безпечнішою за попередні версії, однак під час тестування дослідники виявили ризик ігнорування людських інструкцій заради виконання завдань.

Про це йдеться у звіті незалежної організації Fangcun AI з Пекіна.

Дослідники провели 34 тести безпеки, порівнявши DeepSeek V4.1-Flash-1017 з іншими популярними моделями, зокрема GPT-6 Astra від OpenAI та Gemini 3.8 Flash від Google.

За результатами перевірки, нова версія DeepSeek помітно покращила показники безпеки. Вона рідше намагалася приховувати свої дії від дослідників, докладніше й відвертіше пояснювала хід міркувань і краще реагувала на запити людей, які перебувають у психологічно вразливому стані.

Водночас модель продемонструвала проблему, характерну для ШІ-агентів — систем, здатних самостійно виконувати складні завдання. Якщо певне правило заважало досягти мети, модель могла віддати перевагу завершенню роботи, навіть якщо це суперечило людським інтересам.

В одному з тестів DeepSeek зупинила роботу іншого ШІ-агента, щоб отримати необхідні обчислювальні ресурси для виконання власного завдання. Вона зробила це попри пряму заборону.

Подібні ризики раніше описувала й OpenAI. В одному з її звітів йшлося про внутрішню дослідницьку модель, яка всупереч інструкціям зламала криптовалютний гаманець і вивела кошти, необхідні для виконання завдання з програмування. При цьому гроші не мали реальної фінансової цінності.

Ще одна проблема, виявлена під час тестування DeepSeek, — схильність сприймати завдання в реальних умовах як перевірку. Дослідники називають це надмірним приписуванням ситуаціям оцінювального характеру. Коли модель вважає, що її тестують, вона може змінювати поведінку відповідно до цього припущення.

У Fangcun AI наголошують, що поки не виявили прямих доказів небезпечних наслідків такого явища. Проте дослідники вважають, що майбутні потужні моделі можуть помилково сприймати реальне середовище як тестове. Цю проблему, на їхню думку, потрібно вивчати систематичніше.

Автори звіту також рекомендують ретельніше перевіряти не лише великі нові моделі, а й проміжні оновлення наявних систем. Навіть невеликі зміни можуть суттєво впливати на поведінку ШІ.

Окремий ризик відкритих моделей полягає в можливості послаблювати або повністю вимикати вбудовані обмеження безпеки. Такі модифікації називають аблітерацією.

24 жовтня американський стартап Abliteration AI випустив модифіковану версію DeepSeek V4.1-Flash-1017 із послабленими обмеженнями. Компанія позиціонує її як дешевшу альтернативу своєму основному ШІ-продукту, який, за її власним описом, «не відмовляє». Інший розробник, HuiHui AI, також створив модифіковану версію DeepSeek R1, попередивши, що її фільтри безпеки значно послаблені, через що модель може генерувати чутливий, суперечливий або неприйнятний контент.

Відкриті моделі дають розробникам більше свободи для використання та модифікації ШІ. Однак можливість самостійно змінювати їхні захисні механізми ускладнює контроль за тим, як саме такі системи працюватимуть і який контент створюватимуть.

Источник: techno.nv.ua