До 20 років в'язниці за суперінтелект: у США пропонують криміналізувати створення надрозумного ШІ

Після того як Китай уже побудував одну з найжорсткіших у світі систем державного регулювання штучного інтелекту, сенатор США Берні Сандерс і конгресмен Грег Касар представили законопроєкт про заборону розробки штучного суперінтелекту в США. Документ передбачає кримінальну відповідальність із покаранням до 20 років ув'язнення за створення систем, які досягають або перевищують людські когнітивні здібності.

Американський когнітивіст, дослідник і критик сучасного ШІ Ґері Маркус заявив, що підтримує ідею жорсткішого регулювання галузі, однак вважає запропоновану заборону надто радикальною. На його думку, вона може послабити позиції США у сфері ШІ та відволікти увагу від уже наявних ризиків.

“Лідери індустрії штучного інтелекту визнають, що вони створюють небезпечну технологію, яку не можуть контролювати. Нам потрібна негайна глобальна ПАУЗА в розробці передового штучного інтелекту, поки не пізно”, — написав Сандерс у соціальній мережі X.

Маркус зазначив, що бачить аргументи на користь тимчасової паузи в розвитку найпотужніших систем, але виступає проти безстрокової односторонньої заборони розробок. Він додав: “Нам, безумовно, потрібне агентство з питань ШІ — про що я особисто говорив у Сенаті США у 2023 році, — але постійна одностороння заборона на будь-які дослідження в галузі надлюдського ШІ є надто радикальним кроком; це гарантовано призвело б до відставання США і не є правильним підходом”.

За словами Маркуса, законопроєкт також спирається на надто вузьке розуміння оцінки можливостей моделей і створює ризик того, що авторитарні країни отримають перевагу. Він вважає, що документ більше зосереджується на гіпотетичних сценаріях втрати контролю над суперінтелектом, ніж на реальних проблемах, які вже виникають через сучасні системи ШІ.

Подібну позицію висловила вірусологиня Анджела Расмуссен, яка закликала приділяти більше уваги чинним загрозам. На її думку, заборони не повинні будуватися виключно на припущеннях про майбутні ризики.

Як альтернативу Маркус підтримав пропозицію астрофізика Ентоні Агірре. Вона передбачає, що розробка вузькоспеціалізованих систем ШІ може тривати, тоді як створення більш автономних і універсальних моделей має дозволятися лише після підтвердження незалежним органом їхньої безпечності, належного контролю та узгодження цілей (alignment).

На думку Маркуса, такий підхід встановлює високу планку без повної заборони досліджень і стимулює компанії доводити безпечність своїх систем. Він закликав використати законопроєкт Сандерса і Касара як основу для ширшої дискусії про ефективне регулювання ШІ, а не як остаточне рішення.