Сем Альтман застерігає від майбутнього, де штучний інтелект, а не люди, керуватиме процесом

Дмитро Сизов
Сем Альтман застерігає від майбутнього, де штучний інтелект, а не люди, керуватиме процесом

Співзасновник і генеральний директор OpenAI Сем Альтман вважає, що люди повинні брати на себе відповідальність за майбутнє, коли йдеться про те, як технології штучного інтелекту впливають на світ і життя кожної людини. Виступаючи на саміті The New York Times DealBook Summit у середу, керівник відділу штучного інтелекту згадав про дискусії в Кремнієвій долині щодо того, чи буде поступовий перехід до штучного інтелекту , тобто чи зрештою штучний інтелект стане головним органом, що прийматиме рішення в кожній великій галузі та установі.

«Останнім часом ми багато говорили про те, що в Кремнієвій долині існує така річ, боротьба з якою здається майже безглуздою, але ми обидва глибоко віримо, що люди повинні контролювати майбутнє, і все частіше говорять про те, що або відбудеться, або має відбутися поступова передача штучному інтелекту. І я — ми обидва — погоджуємося, що це жахлива ідея», — сказав Альтман, який ділив сцену зі співзасновником і президентом OpenAI Грегом Брокманом.

Теорія передачі відповідальності випливає з ідеї, що в міру того, як моделі штучного інтелекту стають дедалі потужнішими, вони навчатимуться самовдосконалюватися — концепція, відома як «рекурсивне самовдосконалення» або RSI. Вважається, що оскільки існуючі технології штучного інтелекту створюють нові, розумніші покоління, вони зрештою стануть суперінтелектом, який люди більше не зможуть контролювати.

Альтман пояснив, що вони з Брокманом розходяться в думках лише щодо того, як найкраще досягти мети контролю над ситуацією серед людей, або з якими викликами нам слід зіткнутися на цьому шляху. Однак Альтман охарактеризував це радше як дебати між двома людьми, які поділяють однакові ширші погляди.

«Питання про те, як насправді запобігти [передачі] — як насправді гарантувати, що ми, враховуючи весь тиск і те, що можуть спробувати зробити інші компанії, дійсно забезпечимо, щоб люди мали глибокий контроль над майбутнім, і щоб у нас не було цієї випадкової чи навмисної передачі — я думаю, ми обидва можемо з цим погодитися», — сказав Альтман.

Брокман додав, що з удосконаленням моделей зростає відповідальність за узгодження, безпеку та захист, що може вимагати змін у поточних методах роботи.

«Моніторинг — це гарний приклад того, де, на мою думку, нам знадобляться нові… технології», — сказав він.