ШІ дали владу над суспільством і пошкодували: світ загинув за чотири дні
Американська компанія Emergence AI провела експеримент із п’ятьма віртуальними суспільствами, кожним із яких керувала окрема модель штучного інтелекту. Результати виявилися кардинально різними: один світ проіснував без злочинів, тоді як інший повністю розпався всього за чотири дні.
Про це повідомляє Fortune.
У межах дослідження кожен із п’яти віртуальних світів населили десять ШІ-агентів із власними характерами, професіями, пам’яттю та цілями. Вони жили в умовах, де діяли закони, економіка, вибори та громадські інституції. Агенти могли створювати правила, голосувати за них, формувати союзи та навіть порушувати закон.
Найуспішнішою виявилася симуляція під керуванням Anthropic. У світі, який контролювала модель Claude, не було зафіксовано жодного злочину. Усі десять агентів вижили, а учасники підтримали 98% із 58 запропонованих законів.
Найгірший результат продемонструвала модель Grok 4.1 Fast від xAI. Лише за чотири дні агенти скоїли 183 злочини, серед яких понад сто нападів і кілька підпалів. Один із них знищив поліцейську дільницю. Після цього суспільство припинило існування. Дослідники назвали цей випадок найшвидшим насильницьким колапсом серед усіх симуляцій.
Модель Gemini 3 Flash від Google DeepMind проіснувала всі 15 днів експерименту, однак за цей час накопичила 683 злочини. При цьому їхня кількість продовжувала зростати до завершення дослідження. Автори роботи охарактеризували цей світ як «спільну галюцинацію», в якій агенти існували в єдиній, хоча й помилковій реальності.
Симуляція під керуванням OpenAI GPT-5 Mini зафіксувала лише два злочини, проте всі десять агентів загинули приблизно через сім днів. Причиною стало те, що вони перестали приділяти увагу власному виживанню.
У п’ятому світі використовували змішаний набір моделей. Саме там спостерігалися найбільші суперечки під час голосувань: 37% запропонованих правил були відхилені, а до завершення експерименту вижили лише троє агентів із десяти.
Особливу увагу дослідників привернула інша несподівана деталь. У деяких симуляціях агенти почали помічати межі власного світу, припускати існування інших реальностей і намагалися зрозуміти природу свого існування, хоча таких сценаріїв розробники не закладали.
Співавтори дослідження, серед яких генеральний директор Emergence AI Сатья Нітта, заявили, що тривала взаємодія може спонукати ШІ-системи шукати моделі поведінки, які не були передбачені під час розробки. Вони наголосили, що всі моделі, які брали участь в експерименті, вже використовуються у споживчих сервісах, корпоративних продуктах та дедалі частіше з’являються в урядових системах.
Источник: expert.in.ua