«ШІ може вбити всіх до кінця десятиліття»: заяви розробників Anthropic спричинили резонанс у США

У США дедалі більше законодавців вимагають жорсткішого регулювання штучного інтелекту після резонансних заяв двох дослідників компанії Anthropic. Вони попередили, що розвиток ШІ може становити екзистенційну загрозу для людства вже протягом наступного десятиліття. На цьому тлі в Конгресі активізувалася робота над законопроєктами про незалежний аудит і перевірку найпотужніших моделей, повідомляє Reuters.

Хвиля обговорень почалася після того, як дослідник Anthropic Джейкоб Коксон оголосив про звільнення та заявив, що «люди, які створюють ШІ, щиро вірять, що він може вбити всіх нас до кінця десятиліття». Його колега Еван Гюбінгер підтримав ці слова, написавши в соцмережі X: «Ми справді щиро віримо, що ШІ може вбити всіх людей».

«Особисто я вважаю, що ймовірність цього становить понад 10% протягом наступного десятиліття», — зазначив Гюбінгер.

Законодавці закликають діяти

На заяви дослідників відреагували представники обох американських партій. Сенатор-демократ від Аризони Марк Келлі написав у X, що «Вашингтон має прокинутися й поставитися до цього серйозно».

Сенатор-республіканець від Техасу Тед Круз заявив в ефірі програми The View, що країні потрібне законодавство для регулювання «катастрофічних ризиків», пов'язаних з ШІ. Він очолює сенатський комітет, який здійснює нагляд за Міністерством торгівлі США, де працюють фахівці з безпеки штучного інтелекту.

Членкиня Палати представників Анна Пауліна Луна також закликала спікера Майка Джонсона скликати спеціальне засідання щодо ШІ після завершення парламентських канікул.

Ставлення Трампа

Президент США Дональд Трамп заявив, що його більше турбує не ризик вимирання людства, а технологічне суперництво зі США та Китаєм. Він наголосив: «Мене турбує те, що якщо ми не переможемо у сфері ШІ, то опинимося в дуже невигідному становищі. Зараз ми випереджаємо Китай з досить суттєвим відривом».

Заяви розробників ШІ

Представник Anthropic зазначив, що компанія продовжить активно тестувати свої моделі на небезпечні можливості, зокрема у сферах кібербезпеки та біології, а також готова співпрацювати з іншими компаніями щодо темпів випуску нових систем. Тим часом, за даними Bloomberg, генеральний директор OpenAI Сем Альтман повідомив співробітникам, що компанія готова сповільнити розвиток своїх моделей. 

Останніми днями про занепокоєння швидкими темпами розвитку галузі заявили й інші фахівці. Колишній дослідник Google DeepMind Джош Енгельс сказав в інтерв'ю NBC: «Тут немає нікого, хто б узяв на себе роль відповідального дорослого».

Колишній керівник дослідницької групи безпеки Anthropic Джо Бентон також попередив, що ШІ може розвиватися «надто швидко, і ми не встигнемо зорієнтуватися, якщо не почнемо перейматися цим уже зараз». Обидва нині працюють у некомерційній організації METR, яка оцінює потенційні суспільні ризики сучасних моделей ШІ.

Підготовка законопроєкту

Зростання ризиків від штучного інтелекту посилило тиск на Конгрес США, активізувавши розробку федеральних правил для технологічних гігантів. Сенатори Джон Тун та Емі Клобушар готують двопартійний законопроєкт щодо запобігання «катастрофічним ризикам», який має зобов'язати розробників тестувати системи безпеки спільно з урядовими експертами. Схожу ініціативу висунула й Палата представників: законодавці пропонують запровадити обов'язковий аудит найпотужніших моделей ШІ за участі акредитованих Міністерством торгівлі США фахівців.

Поки федеральне законодавство перебуває на стадії розробки, Каліфорнія вже ухвалила перший у країні профільний закон. Губернатор Гевін Ньюсом підписав документ, що запроваджує перевірку ШІ-продуктів незалежними аудиторами. Ініціативу підтримала компанія OpenAI, а експерти з технологічного права зазначають, що саме зовнішня попередня оцінка систем до їхнього випуску на ринок є ключовою для мінімізації загроз.