Негативна реакція на ШІ є «фундаментально кризою довіри» - Даріо Амодей
Генеральний директор Anthropic Даріо Амодей нещодавно спростував ідею про те, що він змальовував надто песимістичну картину штучного інтелекту та того, як він може вплинути на майбутнє.
Коментарі Amodei з'явилися у відповідь на слова інвестора Гевіна Бейкера, який стверджував — як у подкасті All-In , так і на X — що попередження Amodei про небезпеку штучного інтелекту сприяли негативній реакції у Сполучених Штатах, особливо проти центрів обробки даних .
Стверджуючи, що Амодей «програв суперечку» щодо регулювання ШІ (Anthropic виступав за деякі правила, зокрема за законопроект Каліфорнії, який встановлює вимоги прозорості для великих компаній, що займаються ШІ ), і враховуючи, що «він незабаром стане генеральним директором однієї з найважливіших компаній у світі», Бейкер написав: «Я з повагою вважаю, що він повинен докласти зусиль, щоб бути більш позитивним захисником своєї галузі».
Бейкер далеко не єдиний, хто стверджує, що скептицизм щодо ШІ та навіть урядові репресії є природною відповіддю на похмурі попередження деяких керівників у сфері ШІ . Але в серії постів Амодей не погодився з думкою, що його «повідомлення були непропорційно негативними». Натомість він сказав, що його тексти були «приблизно однаково збалансованими між ризиками та перевагами», і що він написав своє есе «Машини люблячої благодаті», тому що «не вважав, що індустрія ШІ малює достатньо надихаючу картину того, як ця технологія може радикально змінити світ на краще».
Тим не менш, Амодей визнав, що «громадськість негативно ставиться до ШІ», і погодився, що «це велика проблема». Він не погодився з ідеєю, що цей негатив «в першу чергу спричинений» попередженням Амодея «або будь-якого іншого лідера ШІ про ризики ШІ».
«Я думаю, що це, по суті, криза довіри», — сказав Амодей. «Я думаю, що звичайні люди не довіряють компаніям, урядам чи технологічній галузі та завжди підозрюють, що ми вигадуємо якийсь новий спосіб їх обдурити».
Дійсно, слово «довіра» часто згадується в заголовках про генерального директора OpenAI Сема Альтмана і, очевидно, є проблемою і для інших генеральних директорів у сфері штучного інтелекту, таких як Amodei . Однак, за словами Amodei, ця криза назрівала десятиліттями , а негативна реакція на ШІ — «лише її остання версія».
Іншими словами, він сказав, що обіцянка про те, що ШІ вилікує рак, «це радше кліше, ніж натхнення»; те, що насправді змінить думку людей про ШІ, це «фактичне лікування раку».
Що стосується регулювання , Амодей стверджував, що Бейкер зображує «хибний вибір» між широким розповсюдженням ШІ без регулювання або зосередженням технології в руках кількох компаній шляхом регулювання.
«Я знаю, що існує своєрідне скорочення Кремнієвої долини, де регулювання = регуляторне захоплення = концентрація влади, але я завжди вважав це надто спрощеною картиною світу», – сказав Амодей. «Багато людей поза цією бульбашкою думають про регулювання як про щось, що обмежує корпоративну владу та приносить користь звичайним людям».
Амодей додав, що він «не обов’язково погоджується з цією точкою зору», але сказав, що саме «тому Anthropic завжди дуже обережно робила свої політичні пропозиції».
«Ми дуже стараємося вносити пропозиції, які ставлять у невигідне становище (уповільнюють) передові компанії зі штучного інтелекту, водночас надаючи перевагу меншим конкурентам», – сказав він.
Навіщо взагалі робити такі пропозиції? Амодей сказав, що, на його думку, «ШІ — це *структурно* технологія, яка прагне концентрувати владу», і що «відкриті ваги дещо допомагають у цьому, але вони аж ніяк не є достатнім рішенням, оскільки вони просто дещо зміщують концентрацію до тих, хто має найбільше обчислювальної техніки та чіпів».
«Натомість, я вважаю, що правильні «правила дорожнього руху» можуть одночасно (а) вирішити проблеми кібер/біо/узгоджених ризиків ШІ, (б) інституційно обмежити владу передових компаній ШІ та (в) залишити місце для моделей з відкритими вагами, водночас враховуючи конкретні ризики, які вони несуть», – сказав він.
Цей пост оновлено, щоб включити більше цитат з постів Амодея, зокрема тих, що стосуються відкритих ваг.