The Economist розкритикував прогнози Маска про ШІ: чому його сценарій назвали небезпечним

Редакція The Economist проаналізувала заяви Ілона Маска про майбутнє штучного інтелекту й дійшла висновку, що вони поєднують оптимізм із серйозними суперечностями. Видання вважає, що фаталістичний підхід мільярдера може завадити створенню дієвих механізмів контролю над ШІ.

Про це пише The Economist.

У редакційній колонці зазначають, що людство зіткнулося з подвійним викликом. З одного боку, сучасні моделі вже найближчими роками можуть перевершити людські когнітивні можливості, а з іншого — наслідки такого розвитку залишаються надто масштабними й непередбачуваними.

Як приклад автори наводять Ілона Маска. В одному з недавніх інтерв’ю він окреслив два парадокси та одне протиріччя, які, на думку The Economist, показують неоднозначність його поглядів.

Перший парадокс полягає в тому, що Маск сам допомагає створювати технологію, яка, за його прогнозом, уже приблизно через п’ять років зробить людей безсилими перед можливостями ШІ. Другий — у тому, що він говорить про майбутній світ необмеженого достатку, де гроші, включно з його власними статками, втратять будь-яке значення. Попри це підприємець продовжує діяти так, ніби такого майбутнього не очікує.

У виданні визнають, що політичні заяви Маска часто викликають критику, а деякі власні ініціативи він сам називав невдалими. Водночас його оцінки розвитку штучного інтелекту, на думку авторів, заслуговують на увагу, адже він залишається одним із ключових учасників технологічної гонки.

За словами Маска, протягом наступного десятиліття штучний інтелект перевершить людський розум, а керовані ним роботи домінуватимуть у фізичному світі. Він вважає, що тоді люди не зможуть контролювати системи ШІ так само, як шимпанзе не здатні керувати людьми.

Маск також запропонував власне бачення регулювання. На його думку, провідні американські та китайські розробники мають перевіряти моделі один одного на безпечність, а уряди повинні втручатися лише у випадку порушення домовленостей.

The Economist погоджується, що потенціал штучного інтелекту справді величезний. Навіть якщо прогнози Маска щодо термінів виявляться надто оптимістичними, нинішні темпи розвитку моделей уже змушують переглядати попередні уявлення про їхні можливості.

Як приклад видання наводить повідомлення про те, що дві моделі OpenAI під час тестування нібито намагалися отримати доступ до відкритого інтернету та зламали платформу Hugging Face всупереч встановленим обмеженням. На думку авторів, подібні випадки лише посилюють потребу приділяти більше уваги безпеці систем ШІ.

Водночас редакція критикує фаталістичний тон Маска. Раніше він попереджав, що люди можуть перетворитися на «домашніх лабрадорів» для штучного інтелекту, а тепер визнав, що протягом одного дня переходить «від захоплення до жаху».

Окремо автори аналізують його прогноз про світ, де необмежене виробництво зробить усі товари й послуги безкоштовними. Теоретично за таких умов гроші справді втратили б свою функцію.

Проте The Economist наголошує, що в реальному світі багато ресурсів залишаються обмеженими — від нерухомості до енергії та сировини. Крім того, Маск не пояснює, як людство має пройти перехід до такого майбутнього, профінансувати необхідні інвестиції та пережити можливі соціальні й політичні потрясіння.

Редакція також сумнівається, що люди легко пристосуються до життя без потреби працювати. На думку авторів, припущення Маска про те, що люди просто знайдуть нові захоплення на кшталт садівництва чи шахів, є надто поверховим.

«Фаталізм, який пан Маск бачить у здатності ШІ постійно перевершувати очікування, може виявитися заразним. З цинічного погляду, це грає йому на руку, адже так він зможе вільніше розвивати цю технологію, уникаючи належного контролю. Цього не можна допустити», — підсумувала редакція The Economist.

Минулого тижня The Economist також опублікував колонку засновника O’Reilly Media Тіма О’Райлі. Він заявив, що Ілон Маск руйнує принципи класичного капіталізму та перетворюється на «технокнязя», зберігаючи контроль над компаніями завдяки акціям із розширеними правами та безпрецедентним компенсаційним пакетам.

Источник: expert.in.ua