Стримувати ШІ вже пізно: що робити людству

Професор Колін Льюїс вважає, що етап, коли розвиток штучного інтелекту (ШІ) можна було стримувати звичними способами, уже минув. Нині головне питання стосується того, чи здатне суспільство справлятися з наслідками стрімкого технологічного зростання.

У своєму есе Льюїс описує зміну підходу: раніше ШІ сприймався як новинка, сьогодні – як перевірка стійкості соціальних систем. За його словами, обмеження та фільтри більше не дають ефекту; необхідно формувати “загартоване суспільство”, яке вміє жити з постійними ризиками.

Перші зміни стали очевидними у 2020-2022 роках. Навчання передових моделей тоді потребувало величезних ресурсів, а за два роки вартість впала приблизно в 10 разів. Тепер навіть невеликі команди можуть обходити захисні механізми, які раніше потребували бюджетів великих корпорацій. Це підтверджують і дослідження групи під керівництвом Джеймі Бернарді – колишні методи контролю стали доступними для будь-кого, навіть без глибокого розуміння роботи моделей.

Льюїс зауважує, що заборони та обмеження іноді шкодять: вони перешкоджають експертам, а знання, вкладені в системи, можуть використовуватися не лише на благо.

Друга зміна стосується сприйняття самого ШІ. Професор Лучано Флоріді (Єльський університет) зазначає, що його не можна порівнювати з людським мисленням. ШІ виконує завдання, але не несе відповідальності і не має власних намірів.

Менш помітним, але важливим є вплив на суспільство: економіка, медіа та державні системи підлаштовуються під алгоритми, стають більш цифровими і зручними для машин, а не для людей.

В умовах, коли ШІ може впливати на енергетику або політичні процеси, важливо не лише технологічне рішення, а й здатність відновлювати інфраструктуру та зберігати довіру.

Концепція “загартованого суспільства” передбачає:

• підтвердження особистості в кіберпросторі;
• розвиток захисних систем на базі ШІ, що виявляють загрози;
• створення резервних механізмів для критичних сфер (енергетика, медицина тощо).

Льюїс переконаний, що це не віддалене майбутнє – це вже актуальне завдання, що вимагає регулярних перевірок, запасних рішень і готовності до збоїв.

За його словами, питання епохи ШІ вже не в тому, чи мислять машини як люди. Набагато важливіше, чи зможуть люди зберегти контроль над своїм життям у світі, де технології все частіше приймають рішення за них.

Источник: itechua.com