Глава Google DeepMind попередив про загрозу масштабних кібератак за допомогою ШІ вже наступного року

Нещодавні випадки, коли агенти штучного інтелекту зламували корпоративні мережі або демонстрували непередбачувану поведінку, є «сигналами тривоги». Про це заявив співзасновник і керівник Google DeepMind Деміс Гассабіс під час саміту з питань ШІ в Дубліні. За його словами, якщо технологічні компанії та уряди не посилять заходи безпеки, значно серйозніші інциденти можуть статися вже наступного року або протягом найближчих кількох років, передає Reuters.

«Гадаю, ці (хакерські) інциденти — це сигнали тривоги для нас: системи поки що не настільки потужні, тому й наслідки не такі вже й серйозні», — зазначив глава Google DeepMind, який також вже кілька місяців обіймає посаду головного наукового співробітника Alphabet, материнської компанії Google.

Гассабіс наголосив, що галузі потрібно впроваджувати передові практики захисту, подібні до тих, які використовують у біології та ядерній енергетиці для роботи з критично важливими системами. Він також підтримав ідею створення міжнародного органу, який розроблятиме спільні стандарти безпеки для передових систем ШІ. Водночас керівник Google DeepMind не підписав лист, де понад 400 науковців закликали запровадити подібні обмеження.

Побоювання дослідників посилилися після випадків, коли агенти ШІ виходили за межі передбачених обмежень, зокрема зламували корпоративні мережі, як-от платформу Hugging Face. Ще один інцидент стався, коли модель штучного інтелекту компанії Anthropic надіслала до поліції неправдиве повідомлення про вбивство.

Гассабіс попередив, що нинішні наслідки таких випадків не варто вважати показником майбутніх ризиків. На його думку, без додаткових зусиль з боку компаній, всієї технологічної галузі та урядів «ситуація може швидко змінитися і стати критичною вже наступного року чи в найближчі кілька років».

Керівник Google DeepMind зазначив, що міжнародний орган зі стандартизації має працювати виважено, щоб посилення контролю не перешкоджало інноваціям. Він пояснив: «По суті, вам потрібно динамічно формувати такий процес сертифікації, який був би співмірним із ризиками — з огляду на наше їх бачення — і міг би швидко змінюватися залежно від того, як розвиватиметься технологія».

Президент Microsoft Бред Сміт також заявив на конференції, що випадки неконтрольованої поведінки ШІ змушують галузь реалістичніше оцінювати ризики. Він наголосив на необхідності нових законів і правил безпеки, які відповідатимуть темпам розвитку технологій.

«Жодна компанія чи технологія не повинна стояти вище закону. Але нам потрібні закони, нам потрібне регулювання. Воно має бути розумним, збалансованим і враховувати інновації… Відверто кажучи, нам слід подолати ту алергію на регулювання, яка спостерігається в декого в цій галузі», — додав Сміт.

Ці заяви пролунали на тлі повідомлень Axios щодо підготовки керівників провідних технологічних компаній, зокрема OpenAI та Anthropic, до масштабної суспільно-політичної кризи після потенційного катастрофічного інциденту, пов'язаного зі ШІ. Представники галузі очікують серйозної надзвичайної події — насамперед руйнівної кібератаки на енергетику, фінансовий сектор чи водопостачання або виходу з-під контролю рою автономних агентів — уже протягом найближчих 6–12 місяців.