Anthropic каже, що світу потрібна система, щоб вирішувала коли призупинити роботу ШІ

Антропна PBC закликала до створення системи, в якій уряди та розробники штучного інтелекту колективно вирішуватимуть, коли уповільнювати роботу над технологією, щоб запобігти ризикам, які вона може створювати.

«Було б добре, якби світ мав можливість показувати або тимчасово призупиняти» роботу штучного інтелекту, яка може бути небезпечною, йдеться у довгому дописі в блозі компанії , опублікованому у четвер співзасновником Джеком Кларком та керівником Антропного інституту Мариною Фаваро. Штучний інтелект просувається до точки, коли технологія може зробити людську працю в тисячі разів ефективнішою або навіть замінити її, створюючи новий набір ризиків, сказали вони.

Anthropic визнала, наскільки важко буде змусити компанії, не кажучи вже про цілі країни, які роками були замкнені в гонці за розвиток власних технологій, погодитися на будь-яку колективну паузу. Компанія звернулася з аналогічними закликами до урядів та конкурентів запровадити порогові значення.

У 2023 році стартап встановив власні обмеження та пообіцяв припинити роботу, яка може бути небезпечною. Але на початку цього року компанія послабила цю обіцянку, заявивши, що більше не зупинятиметься, якщо не матиме значної переваги над конкурентом.

Відмовляючись від цього зобов'язання, Anthropic заявила, що політичне середовище змістилося в бік пріоритетності конкурентоспроможності та економічного зростання у сфері штучного інтелекту, а не безпеки. У четвер компанія заявила, що найближчими місяцями зустрінеться з політиками та іншими компаніями, що займаються штучним інтелектом, щоб обговорити кращу координацію та поділитися результатами цих обговорень.

Протокол для прийняття рішення про колективну паузу стає все більш важливим, оскільки ШІ незабаром може бути здатним самовдосконалюватися та створювати наступників, зменшуючи роль людей, сказали Кларк і Фаваро. «Це зіткнення, де рекурсивний інтелект, що все швидше будує себе, зустрічається зі світом людей, стосунків та управління, є ще однією частиною цього майбутнього, яке ми не можемо передбачити», – написали вони.

У блозі цю ідею порівнювали з міжнародним регулюванням ядерної зброї. Будь-який механізм паузи також повинен гарантувати, що менш сумлінні лабораторії штучного інтелекту таємно не продовжуватимуть працювати над вдосконаленням технології під час перерви, ймовірно, шляхом перевірок з боку аналогічних лабораторій.

Дослідники штучного інтелекту раніше закликали уряди тимчасово призупинити роботу. Наприклад, у 2023 році некомерційна організація Future of Life Institute закликала до паузи щонайменше на шість місяців, щоб встановити захисні бар'єри для ШІ, попереджаючи про потенційно катастрофічні наслідки. Мільярдер Ілон Маск підписав його разом з понад 1000 іншими дослідниками та керівниками. Критики на той час стверджували, що зупинка розробки обмежить інновації та надасть перевагу тим, хто не призупиняє роботу.

Це виклик, який визнала сама Anthropic у своєму блозі: «Навчальні пробіги набагато легше приховати, ніж ракетні шахти, їхні вхідні дані є універсальними, а стимул для тихого дезертирства величезний, бо той, хто продовжить, поки інші зупиняються, може успадкувати лідерство».

Anthropic продовжує випускати передові моделі та інструменти, такі як її популярний помічник Claude та нова модель Mythos, яка, за її словами, може виявляти та використовувати недоліки кібербезпеки з надзвичайною швидкістю. Компанія також готується до первинного публічного розміщення акцій .