OpenAI формує нову команду для пом’якшення «катастрофічних ризиків», пов’язаних зі ШІ. В оновленому четверговому оновленні OpenAI повідомляє, що команда підготовки буде «відстежувати, оцінювати, прогнозувати та захищати» від потенційно серйозних проблем, спричинених ШІ, включаючи ядерні загрози.
OpenAI створює нову команду для оцінки «катастрофічних ризиків» ШІ
Дмитро Сизов
Команда також працюватиме над пом’якшенням «хімічних, біологічних і радіологічних загроз», а також «автономної реплікації» або самовідтворення ШІ. Деякі інші ризики, які буде розглядати команда підготовки, включають здатність ШІ обманювати людей, а також загрози кібербезпеці.
«Ми віримо, що передові моделі штучного інтелекту, які перевищуватимуть можливості, наявні в найдосконаліших існуючих моделях, мають потенціал принести користь всьому людству», — пише OpenAI в оновленні. «Але вони також становлять дедалі серйозніші ризики».
Олександр Мадрі, який зараз перебуває у відпустці з посади директора Центру розгортання машинного навчання MIT, очолить групу підготовки. OpenAI зазначає, що команда підготовки також розроблятиме та підтримуватиме «політику розробки з урахуванням ризиків», у якій буде описано, що компанія робить для оцінки та моніторингу моделей ШІ.
Генеральний директор OpenAI Сем Альтман раніше попереджав про можливість катастрофічних подій, спричинених ШІ. У травні Альтман та інші видатні дослідники штучного інтелекту опублікували заяву з 22 слів про те, що «зменшення ризику зникнення через штучний інтелект повинно бути глобальним пріоритетом». Під час інтерв’ю в Лондоні Альтман також припустив, що уряди повинні ставитися до ШІ «так само серйозно», як до ядерної зброї.