Anthropic пропонує свій законопроект про безпеку штучного інтелекту

Anthropic PBC представила американським законодавцям власний законопроект із планом регулювання безпеки та захисту штучного інтелекту в момент підвищеного занепокоєння щодо потенційних ризиків, пов'язаних зі стрімким розвитком технологій.

Згідно з Politico, яке першим повідомило про законопроект, пропозиція передбачає, що уряд може заблокувати випуск моделі штучного інтелекту, якщо він вирішить безпосередньо ризикувати вбивством або пораненням понад 50 людей або завданням збитків на суму понад 1 мільярд доларів. Загроза має бути результатом створення або випуску моделлю біологічної зброї, виходу штучного інтелекту з-під контролю людини або кібератаки, повідомляє Politico.

«Цей законопроект відображає пропозиції, викладені в Anthropic’s Advanced AI Framework , які ми відстоюємо перед федеральними та державними законодавцями з червня», – сказав речник компанії.

Законопроект зобов'язує розробників штучного інтелекту тестувати свої моделі та ділитися результатами з громадськістю; він також вимагатиме від компаній, що займаються розробкою штучного інтелекту, дозволяти незалежним оцінювачам регулярно перевіряти моделі, сказав речник.

«Наша пропозиція також надає федеральному уряду можливість блокувати або стримувати небезпечне розгортання найпотужніших моделей», – сказав речник. «Це розумна політика, яку, на нашу думку, Конгрес повинен дотримуватися».

Компанія відмовилася коментувати, наскільки широко вона представила пропозицію та як її сприйняли досі.

В останні місяці серія порушень та хакерських атак, спричинених моделями штучного інтелекту, посилила занепокоєння щодо потенційно катастрофічних ризиків цієї технології, що спонукало Вашингтон звернутися до Кремнієвої долини з проханням про нові запобіжні заходи , але досі адміністрація президента Дональда Трампа відхилила заклики до посилення контролю.