Anthropic пропонує законопроект про безпеку ШІ, що заблокує його, при ризику загибелі понад 50 людей

Видання Politico нещодавно повідомило , що лабораторія штучного інтелекту розглядає новий законопроект про безпеку штучного інтелекту, який, як сподівається, Конгрес може розглянути для прийняття. Законодавство передбачає певні сценарії, за яких випуск моделі штучного інтелекту може бути заблокований для розповсюдження.

Ці сценарії передбачають «передбачуваний, неминучий ризик» — такий, що понад 50 людей ризикують загинути або якщо майно може бути завдано збитків на суму понад мільярд доларів, пише Politico. Катастрофічний ризик, про який йде мова, повинен «виникати зі створення або випуску біологічної зброї, уникнення контролю розробника моделі або кібератаки», зазначає видання.

Запропоновані тут показники — 50 осіб і мільярд доларів — схожі на ті, що містяться в нещодавно прийнятому законодавстві Каліфорнії, Законопроекті Сенату 53 , який аналогічно визначив ці сценарії як рівносильні «катастрофічному ризику».

Законопроект Anthropic передбачає, що аналіз потенціалу моделі для катастрофи може бути проведений за допомогою «незалежних оцінювачів», зареєстрованих у Міністерстві торгівлі США. Ці оцінювачі потенційно можуть отримувати оплату від самих лабораторій штучного інтелекту — за умови, що «оплата не залежить від результатів оцінювання», пише Politico.

Незрозуміло, як ця запропонована система гарантуватиме, що платежі не зможуть вплинути на оцінку. Деміс Хассабіс, голова DeepMind, кілька місяців тому висунув думку, що самоврядний регуляторний орган у сфері штучного інтелекту повинен імітувати Управління з регулювання фінансової галузі (FINRA) фінансової галузі.

Згідно з проектом закону Anthropic, коли оцінювачі визначають наявність неминучої катастрофічної загрози, вони матимуть 72 години, щоб зв’язатися з Міністерством торгівлі з цього приводу. Міністерство торгівлі потім повинно буде звернутися до судді у Вашингтоні, округ Колумбія, із запитом про припинення випуску моделі. Як пише Politico, законодавство прямо заборонятиме будь-якому федеральному агентству мати право самостійно зупиняти розповсюдження моделі.

Anthropic не одразу відповіла на запит TechCrunch про коментар, але речник підтвердив наявність законопроекту для Politico. «Цей законопроект відображає пропозиції, викладені в Розширеній рамковій програмі штучного інтелекту Anthropic , яку ми відстоюємо перед федеральними та державними законодавцями з червня», – сказав речник.

Теоретичні ризики, запропоновані в проекті політики, дещо відрізняються від тих інцидентів, які останнім часом були першочерговими в технологічній галузі. Хоча є люди, які попереджають про потенційну людську смерть , головним занепокоєнням здебільшого була загроза агентного злому . Серія інцидентів, у яких програми штучного інтелекту, очевидно, не підкорялися своїм операторам-людям і зламували вебсайти у відкритому інтернеті, викликала занепокоєння, що моделям може бракувати належного контролю безпеки.

Прагнучи запропонувати рішення для цієї кризи, яку самі лабораторії сприяли виникненню, такі компанії, як Anthropic, запропонували власні бажані рішення.

Дійсно, попри постійні попередження лабораторій про те, що технології, які вони продають, можуть призвести до загибелі людської цивілізації, вони здебільшого чинили опір обов'язковому державному нагляду. Натомість вони запропонували добровільну систему вбудованих оцінювачів — нібито «нейтральних» сторонніх спостерігачів, яких розміщують в організаціях штучного інтелекту для моніторингу моделей на наявність потенційних ознак ризику чи зловживань.

Тим не менш, сама по собі пропозиція Anthropic щодо законодавства, схоже, виходить трохи далі, ніж пропозиції інших регуляторів, запропоновані галуззю, зокрема Nvidia, генеральний директор якої Дженсен Хуанг нещодавно заявив, що індустрії штучного інтелекту взагалі не потрібні жодні нові закони .