Anthropic веде переговори з США щодо контролю ризиків штучного інтелекту

Керівництво стартапу Anthropic отримало можливість напряму обговорити питання регулювання штучного інтелекту з американськими посадовцями під час саміту Group of Seven. Це відбулося на тлі посиленої уваги до безпеки передових ШІ-моделей компанії.

За даними Politico, Білий дім і Anthropic зараз працюють над створенням механізмів, які дозволять уряду США втручатися у випадках, коли ШІ-моделі можуть становити загрозу національній безпеці або економічній стабільності. Йдеться про формування єдиних стандартів оцінки ризиків ще до запуску нових моделей.

Учасники переговорів погоджуються, що повністю безпечних ШІ-моделей не існує, тому необхідно створити системну процедуру перевірки потенційних вразливостей. Також обговорюється методика оцінки того, як зловмисники можуть використовувати можливості штучного інтелекту для шкідливих цілей.

З боку уряду США у переговорах бере участь посадовиця з питань публічної політики Sarah Heck, а інтереси Anthropic представляє співзасновник компанії Tom Brown. Перехід до технічних обговорень свідчить про прогрес у формуванні спільного підходу до регулювання.

Раніше повідомлялося, що через занепокоєння щодо безпеки деякі моделі Anthropic були обмежені для використання іноземними користувачами. Тепер сторони намагаються виробити більш чіткі правила оцінки ризиків, щоб уникнути подібних криз у майбутньому та зробити взаємодію держави й розробників більш передбачуваною.

Думка редакції

Інтерес до регулювання ШІ на рівні G7 та переговори між урядом США і Anthropic свідчать про перехід від теорії до практичних механізмів контролю. Ідея попередньої оцінки ризиків виглядає логічною, однак ризикує створити бюрократичний бар’єр для інновацій. Водночас участь Sarah Heck та Tom Brown показує, що діалог стає технічно конкретним, а не політичним. Головний виклик — знайти баланс між безпекою та швидкістю розвитку моделей.

Источник: itechua.com