Захист Anthropic. Сем Альтман пропонує нові правила співпраці зі США щодо військового використання ШІ

Про це пише видання Interesting Engineering.

Конфлікт виник після того, як Пентагон захотів, аби Anthropic дозволила застосування своїх моделей для «будь-якого законного використання». Компанія готова співпрацювати з військовими, але побоюється, що це може означати використання її технологій у автономній зброї, системах масового спостереження за громадянами або в середовищах, де немає гарантій надійності.

Модель Claude від Anthropic раніше стала першою системою такого типу, яку допустили до роботи з секретними військовими даними. За повідомленнями, Міністерство оборони дало компанії час до 27 лютого, 17:01, щоб погодитися з новими умовами. У разі відмови Anthropic ризикує втратити контракт на 200 мільйонів доларів і отримати статус «ризику для ланцюга постачання».

Також уряд може скористатися законом про оборонне виробництво, щоб змусити компанію до співпраці. Це стало б суттєвим загостренням ситуації.

За інформацією CNN, Альтман намагається переконати Пентагон знизити напругу. Він вважає, що справа стосується не лише Anthropic, а й усієї галузі, зокрема OpenAI. Якщо вимогу буде виконано, це створить прецедент, який може вплинути на всі компанії, що працюють з ШІ.

В інтерв'ю телеканалу він заявив, що попри розбіжності з Anthropic, загалом довіряє компанії, вважає, що вона серйозно ставиться до безпеки, і позитивно оцінює її підтримку військових. Водночас він визнав, що не знає, чим завершиться ця ситуація.

У внутрішньому листі до співробітників OpenAI Альтман наголосив, що це вже не окремий спір між однією компанією та оборонним відомством, а питання для всієї індустрії, і позицію потрібно чітко визначити.

Він також повідомив, що OpenAI має власну пропозицію для Пентагону. За його словами, вона дозволить використовувати моделі компанії в секретних середовищах і водночас відповідатиме її принципам. Такий підхід, на його думку, можуть застосувати й інші лабораторії ШІ.

Як повідомляє The Wall Street Journal, у листі Альтман написав, що суперечка стосується не стільки способів використання ШІ, скільки контролю над ним. Він підкреслив, що приватна компанія не може бути впливовішою за демократично обраний уряд, хоча бізнес має право брати участь у формуванні політики.

За словами Альтмана, нинішній розвиток подій створює ризики для національної безпеки та може підштовхнути уряд до кроків, які зашкодять лідерству США у сфері штучного інтелекту. Він додав, що OpenAI хоче сприяти деескалації.

Подальші рішення у цій справі визначать не лише долю одного контракту, а й правила співпраці між технологічними компаніями та державою у сфері військового ШІ.