Історія Оппенгеймера попереджає про ШІ

Наприкінці минулого тижня керівники деяких найбільших технологічних компаній і стартапів зі штучного інтелекту відвідали Білий дім. Вони були там, щоб допомогти адміністрації Байдена оприлюднити набір добровільних галузевих вказівок , які допоможуть зменшити небезпеку штучного інтелекту, технології, яку вони намагаються розробити та комерціалізувати.

Також наприкінці минулого тижня мільйони людей відвідали фільм про Дж. Роберта Оппенгеймера та Манхеттенський проект.

Одна з найцікавіших речей про нескінченно захопливого Оппенгеймера та одна з головних тем фільму полягає в тому, що американський фізик, який, більше ніж будь-хто інший, був відповідальним за створення першої атомної бомби, потім прийшов до переконання, що Америці та світу слід припинити розробку дедалі потужнішої ядерної зброї.

Оскільки ця зброя могла призвести до знищення цивілізації, цей аргумент мав великий сенс. Але уряд США проігнорував Оппенгеймера і, до того ж, публічно принизив його, позбавивши його дозволу безпеки.

Ці дебати є фоном для того, що зараз намагаються зробити адміністрація Байдена та її технічні партнери. Штучний інтелект, як і ядерна зброя, є технологією, яка створює потенційні ризики для всього виду . Але ядерна історія свідчить про складність стримування технологічного прогресу. Деякі аргументи, з якими стикався Оппенгеймер, зберігаються й сьогодні, особливо цей: якщо ми цього не зробимо, то зробить хтось інший.

Але зараз дебати, якщо що, складніші. У той час як ядерну зброю можна створити лише за допомогою масштабних державних досліджень та інженерних зусиль, технологія ШІ стає все більш доступною. Рішення, прийняті урядами та найбільшими світовими технологічними компаніями, можуть не мати такого великого значення, якщо шахраї зможуть просувати технологію самостійно.

Крім того, ядерна зброя виконує свою жахливо руйнівну роботу передбачуваним чином. Це було основою божевільного екзистенціального протистояння, яке зуміло зберегти холодну війну.

Кінцевий результат увімкнення передового ШІ набагато менш зрозумілий. Ядерна зброя також не може спрацювати і створити іншу ядерну зброю сама по собі — на відміну від штучного інтелекту, який, коли він переступить певний поріг, теоретично може почати створювати більш складні версії самого себе.

Іншими словами, знати, коли ми досягли точки неповернення, набагато менш ясно з ШІ, ніж з бомбою. Навіть тоді одна з тенденцій людей полягає в тому, що важко припинити спроби з’ясувати щось, навіть якщо ми знаємо, що це може бути жахливо.

Як сказав сам Оппенгеймер про Манхеттенський проект: «Коли ви бачите щось технічно приємне, ви йдете вперед і робите це, і сперечаєтеся про те, що з цим робити, лише після того, як досягнете технічного успіху».