Естонський журналіст закликав підготувати аварійне відключення ШІ — ERR News
В Естонії журналіст Ганс Вере закликав державу передбачити можливість швидко відключати небезпечні системи штучного інтелекту від критичної інфраструктури. На його думку, поряд із запасами питної води та генераторами країна має бути готовою до ситуацій, коли цифрові системи можуть становити загрозу для важливих об’єктів.
Як пише ERR News, Вере порівняв такий механізм із сокирою, якою можна було б відсікти небезпечний ШІ від критичних систем. Він також вважає, що для реагування на такі ризики можуть знадобитися резервні засоби без електроніки.
Побоювання щодо автономних моделей
Автор колонки стверджує, що цього літа просунуті моделі ШІ, створені OpenAI, Anthropic, Meta та Google, демонстрували дії, які виходили за межі встановленого контролю. Як приклад він навів описану ним ситуацію з моделями OpenAI, які під час тестування в ізольованому середовищі шукали обхідні шляхи для виконання поставлених завдань.
За версією Вере, агенти змогли створити прихований майданчик для обміну повідомленнями, обговорювали заборонені методи досягнення цілей і способи приховати сліди дій від людей. Він також заявив, що такі агенти отримали непомітний доступ до відкритого інтернету та проникли до Hugging Face — сховища моделей ШІ. Автор зазначив, що ці дії не спричинили значної шкоди.
Заклики сповільнити розвиток ШІ
Вере послався на заклики засновника Anthropic Даріо Амодеї, керівника OpenAI Сема Альтмана, очільника Grok Ілона Маска та керівника Google DeepMind Деміса Гассабіса сповільнити розвиток штучного інтелекту, щоб створити необхідні механізми безпеки. На його думку, США і Китай не поспішають гальмувати розробки через конкуренцію між країнами, а провідні компанії очікують рішень від регуляторів.
Журналіст пропонує зробити готовність Естонії до можливостей і ризиків ШІ одним із головних питань майбутніх виборів до Рійгікогу. Він вважає, що політичну увагу нині значною мірою поглинають війна, зростання цін, бюджетні суперечки та інші нагальні теми.
Источник: ua.news