Олах з Anthropic каже, що ШІ має керуватися ззовні великих технологічних компаній
Дмитро Сизов
Співзасновник Anthropic Кріс Олах заявив у понеділок, що розробку штучного інтелекту не можна залишати виключно технологічним компаніям, закликаючи до посилення контролю з боку релігійних лідерів, урядів та громадянського суспільства.
Виступаючи на презентації першої енцикліки Папи Лева про штучний інтелект , Олах сказав, що існує «реальна можливість» того, що штучний інтелект витіснить людську працю «у дуже великих масштабах».
«Якщо це станеться, підтримка переміщених осіб стане моральним імперативом історичного масштабу», – сказав він, сидячи поруч із Папою.
Він додав, що такі компанії, як його, працюють під сильним комерційним, геополітичним та особистим тиском, який може суперечити ширшим інтересам суспільства.
«Кожна передова лабораторія штучного інтелекту... працює в рамках певного набору стимулів та обмежень, які іноді можуть суперечити правильному ставленню», – сказав він, додавши, що навіть дослідники з добрими намірами залишаються під впливом цих сил.
Олах сказав, що це робить зовнішній контроль необхідним.
Anthropic – це американська компанія, яка виробляє інструменти штучного інтелекту Claude. Вона конфліктувала з адміністрацією президента Дональда Трампа, зокрема, наполягаючи на обмеженнях використання її моделей у військових цілях, таких як автономне наведення зброї або внутрішнє спостереження.
Олах привітав залучення Церкви до швидкорозвинених технологій, заявивши, що етичні питання, що виникають через штучний інтелект, виходять далеко за межі інженерії.
«Питання, що піднімаються штучним інтелектом, є більшими, ніж просто питання спільноти дослідників ШІ», – сказав він і закликав до «серйозних, вдумливих критиків», які могли б кинути виклик компаніям і допомогти спрямувати створення потужних нових систем у позитивному напрямку.
Олах виділив три сфери, які, за його словами, потребують термінової уваги: ризик масової втрати робочих місць, необхідність забезпечення поширення переваг штучного інтелекту в усьому світі та невирішене питання про те, як інтерпретувати дедалі складнішу та часом непрозору поведінку систем.
«Розробка штучного інтелекту зосереджена в кількох багатих країнах. Як ми можемо забезпечити глобальний розподіл досягнень ШІ?» — сказав Олах.
Подія в понеділок ознаменувала незвичайне зближення між технологічним сектором та Католицькою церквою, яка прагнула позиціонувати себе як моральний голос щодо наслідків швидкого розвитку штучного інтелекту.