Даріо Амодей з Anthropic трохи побоюється китайського ШІ

Засновник і генеральний директор Anthropic Даріо Амодей  відповів на чутки в галузі про те, що його компанія якимось чином підтримує зусилля уряду США щодо заборони китайських моделей з відкритою вагою, або, можливо, моделей з відкритою вагою загалом.

«Кожен, хто читав мої попередні статті, повинен знати, що я не вважаю такі заборони корисним заходом, але дозвольте мені чітко заявити, щоб не було жодних сумнівів:  Anthropic ніколи не виступав за заборону моделей з відкритими вагами », – написав він, наголосивши на власному.

Його відповідь з'явилася після того, як засновник і генеральний директор Nvidia Дженсен Хуанг опублікував у п'ятницю відкритий лист на X ( його перший пост на платформі), в якому Nvidia та довгий список інших компаній, що займаються штучним інтелектом, включаючи Hugging Face, Meta, Microsoft, Mistral та Nvidia, закликали політиків не запроваджувати широкі «передчасні обмеження» на моделі штучного інтелекту з відкритою вагою.

Хоча в цьому листі не згадувався конкретно Китай, дебати в галузі зосередилися на твердженнях про те, що китайські лабораторії штучного інтелекту розвивають свої можливості, часто крадучи інтелектуальну власність у своїх американських колег. Одним із методів є дистиляція, коли штучний інтелект бомбардує іншу модель підказками, щоб дізнатися, як вона працює.

Амодей у ​​своєму блозі, опублікованому в понеділок, зазначив, що, на його думку, моделі з відкритою вагою потрапляють в іншу категорію, ніж загроза, яку становить Китай. «Моделі з відкритою вагою, які не мають небезпечних можливостей, є суспільним благом: вони не коштують нічого, окрім обчислювальних ресурсів, необхідних для їх запуску, і вони забезпечують цінність для бізнесу, розробників та дослідників».

У своїй публікації Амодей зазначив, що він давно побоюється штучного інтелекту, але компанії, що використовують моделі відкритої ваги, навіть з Китаю, до їх числа не належать.

Він боїться, що «авторитарні уряди» створюватимуть моделі, потужніші за ті, що існують у США, щоб досягти «постійної військової переваги» та/або використовувати штучний інтелект для придушення власного народу. Він сказав, що Комуністична партія Китаю (КПК) — не єдиний авторитарний уряд, який його непокоїть, але це «найбільш здібний».

Це суперечить тому, що стверджують прихильники відкритого коду: доступ до потужних відкритих моделей, які не контролюються однією організацією, допомагає захисникам захистити себе.

Амодей перерахував дії, які, на його думку, завадять Китаю, зокрема обмеження його доступу до потужних чіпів (що було давньою політикою США) та заклик до офіційного придушення дистиляції. США погрожували санкціями проти Китаю, якщо виявлять крадіжку інтелектуальної власності, пов'язану з американськими моделями.

Цікаво, що Амодей також заявив, що підтримує зростаючі зусилля, деякі з яких очолюють США, щодо створення зразкової організації з тестування безпеки, особливо якщо весь світ, включаючи Китай, погодиться підкоритися їй.

«Я думаю, що ця ідея насправді близька до консенсусу: мене підбадьорили як те, що адміністрація Трампа рухалася в цьому напрямку останніми місяцями, так і нещодавні пропозиції галузі, які б застосовували таке тестування до найпотужніших моделей незалежно від їхньої країни походження чи того, чи є вони відкритими чи закритими (при цьому повністю виключаючи менш потужні моделі, такі як моделі стартапів та академічних кіл)», – написав Амодей.

«Зауважте, що для ефективності, — додав він, — тестування має бути глобальним, а це означає, що навіть КПК повинна бути залучена. Я думаю, що це насправді можливо… обмежена співпраця щодо запобігання біологічній зброї зі штучним інтелектом може бути можливою, оскільки це також в інтересах Китаю».