ШІ може спростити створення біологічної зброї: керівники OpenAI, Google та Anthropic б'ють на сполох

Керівники найбільших компаній у сфері штучного інтелекту закликали Конгрес США посилити контроль над замовленнями синтетичної ДНК та РНК, щоб запобігти можливому використанню ШІ для створення небезпечних патогенів. Відповідний лист підписали очільник OpenAI Сем Альтман, генеральний директор Anthropic Даріо Амодей та керівник Google DeepMind Деміс Хассабіс, повідомляє The Wall Street Journal.

Автори звернення пропонують законодавчо зобов'язати компанії, які продають синтетичні нуклеїнові кислоти, перевіряти клієнтів та аналізувати замовлення на предмет потенційних ризиків. У разі виявлення небезпечних комбінацій ДНК або РНК такі замовлення мають блокуватися.

У листі зазначається, що розвиток штучного інтелекту здатний суттєво знизити бар'єри для створення біологічної зброї. На думку підписантів, технології, які вже сьогодні прискорюють наукові відкриття та розробку ліків, одночасно можуть використовуватися зловмисниками для створення нових патогенів. 

“Системи штучного інтелекту стрімко вдосконалюються, і поряд із неймовірними перевагами для науки та медицини існує реальна ймовірність того, що бар’єри у вигляді знань, які історично заважали зловмисникам отримати біологічну зброю, суттєво послабшають”, — йдеться у зверненні.

Ініціаторами листа стали два американські аналітичні центри, що спеціалізуються на технологічній політиці. Вони назвали питання біологічної безпеки однією з небагатьох тем, яка об'єднує представників різних політичних таборів, дослідників та керівників конкуруючих технологічних компаній. Звернення підписали також керівник напряму штучного інтелекту Microsoft Мустафа Сулейман та головний директор з питань ШІ компанії Meta Олександр Ван. 

У документі також наголошується, що нинішні механізми контролю переважно є добровільними або поширюються лише на організації, які отримують федеральне фінансування. Прихильники нових правил вважають, що Конгрес має ухвалити окремий закон, який поширюватиметься на всіх покупців синтетичних нуклеїнових кислот. Водночас критики попереджають, що додаткові вимоги можуть створити фінансовий тиск на стартапи та сповільнити розвиток біотехнологічної галузі.

Колишній радник президента США Дональда Трампа з питань штучного інтелекту Дін Болл, який допомагав організувати кампанію на підтримку листа, заявив, що потенційні витрати виправдані масштабом ризиків. За його словами, перевірка замовлень на синтетичні біологічні матеріали є розумною вимогою з огляду на загрозу створення біологічної зброї.