Сандерс закликав Трампа і Сі домовитися про паузу в розвитку ШІ

У США сенатор Берні Сандерс закликав президента Дональда Трампа та голову КНР Сі Цзіньпіна на майбутньому саміті провести переговори щодо договору про паузу в розвитку штучного інтелекту та заборону суперінтелекту. Про це повідомляє NDTV World.

Сандерс назвав початком, але недостатнім кроком позицію генерального директора Anthropic Даріо Амодеї, очільника OpenAI Сема Альтмана та керівника xAI Ілона Маска щодо потреби сповільнити розробку ШІ. У дописі в X сенатор порівняв розвиток технології з рухом до прірви, за якого недостатньо лише зменшити швидкість.

Пропозиція заборонити суперінтелект

Сенатор знову виступив за паузу в розвитку передових систем штучного інтелекту, заявивши, що йдеться про майбутнє людства. Він попередив про небезпеку появи ШІ, який буде розумнішим за будь-яку людину та зможе діяти самостійно поза людським контролем.

Раніше цього місяця Сандерс представив законодавчу ініціативу щодо постійної заборони суперінтелектуального ШІ. Її повний текст ще не оприлюднювали. За даними видання, законопроєкт має на меті не допустити створення систем, здатних функціонувати незалежно від контролю людини.

Позиція технологічних компаній

Даріо Амодеї у своєму блозі попередив про ризики втрати контролю над системами ШІ, їх використання для кібератак і біотероризму, а також про серйозні економічні потрясіння. Він зазначив, що комерційне суперництво може посилювати ці загрози, і закликав уповільнити темпи нарощування можливостей моделей.

Амодеї повідомив, що Anthropic надасть незалежним оцінювачам постійний доступ до своїх систем на рівні працівників компанії. Сем Альтман заявив, що в OpenAI протягом останніх тижнів обговорювали темпи розвитку ШІ, та пообіцяв запровадити аналогічний підхід до незалежного оцінювання. Ілон Маск в окремому дописі підтримав позицію Амодеї.

Источник: ua.news