ШІ експерти "рознесли на друзкі" маніфест Марка Цукерберга про Суперінтелект

Генеральний директор Meta Марк Цукерберг вирішив поговорити з людством про прекрасне майбутнє. 10 серпня він опублікував 6500-слівний маніфест «The Future Is for Everyone» — «Майбутнє для всіх», у якому намалював майже райську картину світу, де штучний інтелект стане персональним суперінтелектом кожної людини.

За задумом Цукерберга, у найближчі роки кожен отримає надзвичайно потужного персонального AI-агента, який знатиме людину, її цілі, інтереси та потреби, допомагатиме працювати, навчатися, створювати бізнес, займатися здоров’ям і взагалі стане цифровим партнером на всі випадки життя. Meta позиціонує себе як компанію, яка нібито хоче «дати владу в руки людей», а не залишити суперінтелект кільком корпораціям чи урядам.

На папері звучить чудово.

Проблема лише в тому, що чим уважніше читати цей маніфест, тим більше він нагадує не філософський документ про майбутнє людства, а дуже масштабну рекламну кампанію самої Meta.

І саме тому реакція частини технологічних журналістів та експертів виявилася далеко не захопленою.

6500 слів — і майже жодної конкретики

WIRED прямо охарактеризував текст Цукерберга як черговий представницький жанр «філософських маніфестів» керівників технологічних компаній і звернув увагу на головну проблему: текст величезний, але конкретної технологічної програми в ньому напрочуд мало.

Цукерберг багато говорить про свободу, інновації, підприємництво, баланс сил і майбутнє людства. Але значно менше — про те, як саме працюватиме його персональний суперінтелект, які матиме обмеження, хто відповідатиме за його помилки і що відбудеться, якщо він почне діяти проти інтересів свого власника.

Це принципова різниця.

Продемонструвати красиву презентацію AI-агента нескладно. Значно складніше відповісти на питання: що робити, якщо агент отримав доступ до електронної пошти, банківських рахунків, медичних даних, робочих документів, фотографій, листування і календаря — а потім помилився?

Або якщо його зламали?

Або якщо його поведінку змінили оновленням моделі?

Або якщо сама компанія-розробник вирішила змінити правила його роботи?

У маніфесті Цукерберга ці питання тонуть у морі оптимізму.

Найбільша іронія: «влада буде у людей» — каже власник однієї з найбільших корпорацій світу

Цукерберг будує центральну тезу на тому, що небезпечно концентрувати суперінтелект у руках кількох компаній, урядів або інших інституцій.

З цим важко сперечатися.

Але виникає незручне питання: а Meta тоді хто?

Сам Цукерберг прямо пише, що Meta — компанія, яка зосереджена на створенні персонального суперінтелекту для кожної людини, і протиставляє цей підхід лабораторіям, які створюють AI для корпорацій та урядів.

Тобто мільярдер, який контролює одну з найвпливовіших технологічних корпорацій планети, пояснює людству, чому концентрація влади небезпечна, одночасно пропонуючи довірити персонального цифрового суперагента саме своїй компанії.

Це виглядає щонайменше парадоксально.

Особливо з огляду на історію самої Meta.

Reuters нагадує, що компанія вже витратила десятки мільярдів доларів на метавсесвіт, який не став тим технологічним проривом, який свого часу обіцяв Цукерберг. Компанія також має за плечима невдалу криптовалютну авантюру. Тепер головною ставкою стала штучна інтелектуальна революція.

І тепер Цукерберг знову просить світ повірити у грандіозне майбутнє.

Найнебезпечніше слово в цьому маніфесті — «персональний»

Саме тут красивий маркетинговий образ починає виглядати набагато менш привабливо.

Персональний AI-агент, який «розуміє вас», — це не просто чат-бот.

Щоб справді розуміти людину, він повинен знати величезну кількість інформації про неї.

Що вона читає.

З ким спілкується.

Куди ходить.

Що купує.

Що шукає в інтернеті.

Які має фінансові проблеми.

Які має професійні амбіції.

Що відбувається в її сім’ї.

Які теми її лякають.

Що вона планує.

Що вона приховує.

А якщо агент інтегрований у смартфон, окуляри, месенджери та інші пристрої Meta — обсяг інформації може стати ще більшим.

І ось тут виникає запитання, яке Цукерберг дуже хотів би залишити десь на задньому плані:

чи справді людина отримує персонального помічника — чи просто добровільно встановлює собі найпотужніший інструмент збору даних в історії?

Це не означає автоматично, що Meta обов’язково використає такі дані проти користувача. Але сама модель створює безпрецедентну концентрацію інформації про людину в руках технологічної платформи.

А компанія з такою історією, як Meta, не може вимагати, щоб їй просто повірили на слово.

«Відкритий AI» — теж не зовсім те, що звучить

Ще одна проблема маніфесту — гра зі словами.

Цукерберг наполягає на максимально широкому доступі до потужного AI і критикує підхід, за якого суперінтелект контролюватимуть кілька закритих компаній.

Meta справді просуває моделі з відкритими вагами. Одночасно з маніфестом компанія представила нову модель Muse Glimmer.

Але називати це просто «open source» — некоректно.

The Guardian окремо звернув увагу, що попередні формулювання про відкритість AI Meta були виправлені: йдеться саме про open-weight, а не класичне open-source-програмне забезпечення.

Для пересічного користувача різниця може здатися академічною.

Для технологічної індустрії — принципова.

Відкриті ваги не означають автоматично відкритий код, відкриті дані для навчання, повну відтворюваність системи чи необмежену свободу її використання.

Тому гасло «суперінтелект для всіх» звучить значно ширше, ніж реальний рівень відкритості технології.

А що буде з роботою?

Цукерберг і тут налаштований оптимістично.

Він визнає, що AI може автоматизувати величезну кількість інтелектуальної роботи, але вважає, що персональний суперінтелект дозволить людям створювати нові бізнеси, винаходи та продукти. Зрештою, стверджує він, обмежений обсяг обчислювальних ресурсів означатиме, що AI вигідніше буде спрямовувати на створення нового, а не просто на автоматизацію старих професій.

Це красива економічна гіпотеза.

Але саме гіпотеза.

Історичний аргумент «технології завжди створювали нові робочі місця» не гарантує, що цього разу все відбудеться так само. Попередні технологічні революції здебільшого замінювали окремі операції або професії. Суперінтелект потенційно претендує на значно ширший спектр когнітивної діяльності.

Тому питання не в тому, чи з’являться нові професії.

Звичайно, з’являться.

Питання в іншому: чи зможуть мільйони людей перейти до них достатньо швидко, щоб не опинитися непотрібними на ринку праці?

Маніфест Цукерберга не дає переконливої відповіді.

Найслабше місце — безпека

Цукерберг багато говорить про безпеку і навіть формулює власний принцип: якщо суперінтелект належить одній людині, компанії чи уряду, це створює небезпечний дисбаланс; якщо ж він доступний усім, баланс сил стає кращим.

Це цікава політична концепція.

Але вона не вирішує головної технологічної проблеми.

Доступність небезпечної технології для всіх не робить її автоматично безпечною.

Якщо мільярд людей отримує надзвичайно потужного агента, здатного писати код, проводити дослідження, шукати вразливості, створювати переконливі матеріали або діяти в цифрових системах, ризики теж масштабуються.

Зловмисник отримує такого самого суперагента.

Шахрай отримує такого самого суперагента.

Хакер отримує такого самого суперагента.

Автор масштабної дезінформаційної кампанії — теж.

І саме тому аргумент «давайте дамо суперінтелект усім, щоб ніхто не мав надмірної влади» далеко не тотожний аргументу «давайте зробимо світ безпечнішим».

Meta хоче стати «компанією, що дає свободу», але довіра залишилася десь позаду

Це, мабуть, головна причина, чому маніфест Цукерберга зустріли з таким скепсисом.

Проблема не лише в самому AI.

Проблема в тому, хто саме розповідає нам про світле майбутнє.

Meta роками має проблеми з питаннями приватності, безпеки дітей, модерації контенту та довіри до платформи. Reuters звертає увагу і на нещодавній штраф у $1 млрд, пов’язаний із питаннями безпеки користувачів та дітей, а Barron's нагадує про серйозні судові та репутаційні проблеми компанії.

І після всього цього Цукерберг фактично каже:

довірте нам ще більше своїх даних, своїх рішень, своєї роботи і свого цифрового життя — цього разу ми зробимо це за допомогою суперінтелекту.

Не дивно, що частина аудиторії реагує не оплесками, а нервовим сміхом.

Це більше схоже на маніфест Meta, ніж на маніфест людства

У тексті є одна особливо показова конструкція.

Цукерберг говорить про майбутнє всіх людей, але практично кожна проблема зрештою приводить до висновку, що правильним шляхом є підхід Meta.

Meta будує персональний AI.

Meta хоче поширити суперінтелект.

Meta вважає, що AI повинен бути відкритим.

Meta вважає, що AI має посилювати окрему людину.

Meta вважає, що саме такий підхід забезпечить правильний баланс влади.

Це вже не просто філософія.

Це позиціонування компанії.

Reuters тому й назвав документ радше рекламним матеріалом, ніж повноцінною технологічною дорожньою картою.

І в цьому, мабуть, полягає найбільша причина насмішок.

Цукерберг написав маніфест про те, чому майбутнє не повинно належати кільком технологічним корпораціям.

А опублікувала цей маніфест технологічна корпорація вартістю близько $1,5 трлн, керівник якої фактично одноосібно визначає її стратегічний курс.

Це приблизно якби найбільший виробник приватних літаків світу написав маніфест про те, що майбутнє транспорту повинно належати кожному.

Можливо, це справді станеться.

Але перш ніж купувати квиток у це прекрасне майбутнє, непогано запитати:

хто тримає штурвал, хто продає пальне — і хто залишив за собою право змінити правила польоту?

Саме на ці запитання 6500 слів Цукерберга переконливої відповіді не дають.