OpenAI та Google попереджають про ризики самовдосконалюваного ШІ
Дослідники, які працювали в OpenAI та Google DeepMind, попереджають про можливі ризики стрімкого розвитку штучного інтелекту. На їхню думку, компанії дедалі активніше використовують ШІ для розробки нових моделей, через що темпи прогресу можуть випередити можливості людей контролювати цей процес. Йдеться насамперед про системи, здатні самостійно допомагати у створенні та вдосконаленні наступних поколінь ШІ.
Одним із головних приводів для занепокоєння є так зване рекурсивне самовдосконалення. У такому сценарії штучний інтелект не просто виконує завдання дослідників, а бере дедалі більшу участь у створенні нових моделей, програмного забезпечення та методів навчання. Це потенційно може прискорити розвиток технології, а людям буде складніше відстежувати всі зміни та своєчасно оцінювати ризики.
Проблема вже не виглядає суто теоретичною. Anthropic, наприклад, повідомляє, що станом на серпень 2026 року її модель Claude виконувала або очолювала значну частину внутрішніх завдань із дослідження та розробки ШІ. За даними компанії, Claude вже “веде” 26% таких робіт, тоді як у лютому цей показник був меншим за 1%. При цьому повністю автономною система ще не є.
Деякі дослідники вважають, що нинішня конкуренція між лабораторіями додатково підсилює проблему. Компанії зацікавлені швидше створювати потужніші моделі, але водночас мають забезпечувати їхній контроль і безпеку. У нещодавньому матеріалі Reuters дослідники OpenAI та Google DeepMind заявили, що заходи безпеки можуть не встигати за розвитком технологій. Водночас точні темпи майбутнього прогресу ШІ залишаються невизначеними.
На цьому тлі дедалі більше представників індустрії говорять про необхідність вимірювати не лише можливості нових моделей, а й те, наскільки активно вони самі допомагають створювати наступні системи. Anthropic уже запропонувала відстежувати рівень автоматизації досліджень, можливості контролю дій AI-агентів і ресурси, які використовуються для розробки моделей. Такий підхід має дати дослідникам і регуляторам більше інформації про те, наскільки швидко змінюється сама індустрія ШІ.
Источник: itechua.com