Axios назвало найбільший страх розробників ШІ: створення біологічної зброї

Провідні розробники та дослідники штучного інтелекту дедалі частіше називають однією з головних загроз використання ШІ для створення небезпечних біологічних патогенів. Експерти вважають такий сценарій малоймовірним, але достатньо реалістичним, щоб вимагати посилення заходів безпеки. Про це повідомляє Axios, зазначаючи, що саме таку відповідь журналісти найчастіше чують під час неформальних розмов із представниками галузі.

За словами співрозмовників видання, розвиток ШІ може випередити можливості держав і компаній із виявлення та запобігання біологічним загрозам. Йдеться не про найбільш імовірний сценарій розвитку подій, однак фахівці вважають його достатньо правдоподібним, щоб приділяти йому особливу увагу.

Минулого місяця керівник OpenAI Сем Альтман, генеральний директор Anthropic Даріо Амодей, очільник Google DeepMind Деміс Хассабіс, керівник Microsoft AI Мустафа Сулейман та директор Meta Superintelligence Labs Александр Ван підписали відкритий лист. У ньому вони попередили про ризик використання ШІ для створення біологічної зброї та закликали посилити механізми захисту.

Такі побоювання підтверджує нове дослідження MIT FutureTech та Університету Квінсленда, у якому 272 дослідники проаналізували 24 основні ризики, пов'язані зі ШІ. Учасники дослідження оцінили у 12% імовірність того, що небезпечні можливості ШІ призведуть до катастрофічних наслідків до 2030 року, і ще у 12% — ризик застосування зброї зі ШІ або інших технологій масового ураження.

Дослідники зазначають, що ці оцінки враховують уже запроваджені заходи зі зниження ризиків. Без них імовірність катастрофічних наслідків, за їхніми розрахунками, перевищувала б 20%. Під катастрофою автори дослідження мають на увазі події, які можуть спричинити понад мільйон смертей або завдати економічних збитків більш як на 100 мільярдів доларів.

Саме ці ризики, як зазначає Axios, дедалі більше впливають на дискусії між урядами та технологічними компаніями щодо перевірки нових моделей ШІ перед їхнім публічним запуском. Розробники прагнуть створити механізми, які блокуватимуть використання моделей для небезпечних цілей і водночас допомагатимуть швидше виявляти потенційні біологічні загрози.

Водночас експерти звертають увагу на складність контролю моделей із відкритим кодом. На відміну від закритих комерційних систем, їх можна вільно модифікувати та використовувати поза будь-якими регуляторними механізмами, що, на думку частини дослідників, ускладнює запобігання можливим зловживанням.

За оцінками експертів, нині створення принципово нового патогену потребує високої кваліфікації, дорогого лабораторного обладнання та багаторічних досліджень. Однак розвиток ШІ може суттєво прискорити окремі етапи цього процесу — від аналізу біологічних даних до пошуку перспективних варіантів, що і викликає найбільше занепокоєння серед розробників.

“Це серйозні й лячні речі. Але ігнорування їх не вирішить проблеми. А от обізнаність і запобігання — вирішать”, — підсумовує Axios.

Водночас історик і футуролог Ювал Ной Харарі заявив, що головна загроза ШІ полягає в поступовому захопленні бюрократичних систем. На думку науковця, алгоритми природно інтегруються в державні установи, банки та корпорації, контролюючи інформаційні потоки та ухвалення рішень без збройної революції. Харарі застеріг, що через руйнування довіри між людьми та пряму взаємодію ШІ-систем між собою людство ризикує опинитися всередині алгоритмічної економіки, принципи функціонування якої перестануть бути зрозумілими навіть для її творців.