ШІ-чат-боти витрачають гроші свого власника кожного разу, коли їх використовують

Величезні витрати на використання сучасних великих мовних моделей, які лежать в основі таких інструментів, як ChatGPT і Bard , обмежують їх якість і загрожують придушити глобальний бум ШІ, який вони викликали.

«Моделі, які зараз розгортаються, якими б вражаючими вони не здавалися, насправді не є найкращими моделями», — сказав Том Голдштейн, професор інформатики з Університету Меріленда. «Отже, моделі, які ви бачите, мають багато слабких місць», яких можна було б уникнути, якби ціна не була об’єктом — наприклад, схильність виплескувати упереджені результати чи відверту неправду .

Технологічні гіганти, які роблять ставку на ШІ, рідко обговорюють вартість технології. OpenAI (виробник ChatGPT), Microsoft і Google відмовилися від коментарів. Але експерти кажуть, що це найбільша перешкода для бачення Big Tech генеративного штучного інтелекту, який проникає в кожну галузь, скорочуючи кількість людей і підвищуючи ефективність.

Інтенсивний обчислювальний процес, який потребує штучний інтелект, ось чому OpenAI стримав свою потужну нову мовну модель GPT-4 від безкоштовної версії ChatGPT, яка все ще використовує слабшу модель GPT-3.5. Основний набір даних ChatGPT востаннє оновлювався у вересні 2021 року, що робить його марним для дослідження чи обговорення останніх подій. І навіть ті, хто платить 20 доларів на місяць за GPT-4, можуть надсилати лише 25 повідомлень кожні три години, оскільки це дуже дорого. (Він також набагато повільніше відповідає.)

Ці витрати також можуть бути однією з причин, чому Google ще не створив чат-бота зі штучним інтелектом у своїй флагманській пошуковій системі, яка щодня надсилає мільярди запитів. Коли Google випустив свій чат-бот Bard у березні, він вирішив не використовувати свою найбільшу мовну модель. Ділан Пател, головний аналітик дослідницької компанії SemiAnalysis, що займається дослідженнями напівпровідників, підрахував, що один чат із ChatGPT може коштувати в 1000 разів дорожче, ніж простий пошук у Google.

У недавньому звіті про штучний інтелект адміністрація Байдена назвала обчислювальну вартість генеративного ШІ національною проблемою. Білий дім написав, що очікується, що ця технологія «значно збільшить обчислювальні вимоги та пов’язаний із цим вплив на навколишнє середовище», і що існує «нагальна потреба» у розробці більш стійких систем.

Навіть більше, ніж інші форми машинного навчання, генеративний штучний інтелект вимагає запаморочливої кількості обчислювальної потужності та спеціалізованих комп’ютерних мікросхем, відомих як графічні процесори, які можуть собі дозволити лише найбагатші компанії. Загострення боротьби за доступ до цих чіпів допомогло перетворити їхніх провідних постачальників на власних технічних гігантів, які володіють ключами до того, що стало найціннішим активом технологічної галузі.

ремнієва долина стала домінувати в інтернет-економіці, частково пропонуючи світові такі послуги, як онлайн-пошук, електронна пошта та соціальні мережі, спочатку втрачаючи гроші, але згодом отримавши значні прибутки від персоналізованої реклами. І реклама, ймовірно, надходить до чат-ботів ШІ. Але аналітики кажуть, що однієї лише реклами, ймовірно, буде недостатньо, щоб незабаром зробити передові інструменти ШІ прибутковими.

Тим часом компанії, які пропонують моделі штучного інтелекту для споживачів, повинні збалансувати своє бажання завоювати частку ринку з фінансовими втратами, які вони несуть.

Пошук більш надійного штучного інтелекту також, швидше за все, принесе прибутки насамперед виробникам мікросхем і гігантам хмарних обчислень, які вже контролюють більшу частину цифрового простору, а також виробникам мікросхем, апаратне забезпечення яких їм необхідно для запуску моделей.

Не випадково компанії, які розробляють провідні мовні моделі штучного інтелекту, або є одними з найбільших постачальників хмарних обчислень, як Google і Microsoft, або мають тісні партнерські стосунки з ними, як це робить OpenAI з Microsoft. Компанії, які купують інструменти штучного інтелекту цих фірм, не усвідомлюють, що вони замкнені в сильно субсидованих послугах, які коштують набагато більше, ніж вони зараз платять, сказав Клем Деланґ, генеральний директор Hugging Face, компанії штучного інтелекту з відкритим кодом.

Генеральний директор OpenAI Сем Альтман опосередковано визнав проблему на слуханнях у Сенаті минулого місяця, коли сенатор Джон Оссофф (D-Ga.) попередив, що якщо OpenAI спробує зробити ChatGPT залежним у спосіб, який завдасть шкоди дітям, Конгрес «подивиться дуже суворо». " на ньому. Альтман сказав, що Оссоффу не варто хвилюватися: «Ми намагаємося розробляти системи, які не максимізують залучення. Насправді нам так бракує графічних процесорів, що чим менше людей користуються нашими продуктами, тим краще».

Витрати на мовні моделі штучного інтелекту починаються з їх розробки та навчання, що вимагає величезної кількості даних і програмного забезпечення для виявлення шаблонів у мові. Компанії зі штучним інтелектом також зазвичай наймають зіркових дослідників, чия зарплата може конкурувати з професійними спортсменами. Це початкова перешкода для будь-якої компанії, яка сподівається побудувати власну модель, хоча кілька добре фінансованих стартапів досягли успіху, включаючи Anthropic AI, який випускники OpenAI заснували за фінансової підтримки Google.

Тоді кожен запит до чат-бота, як-от ChatGPT, Bing від Microsoft або Claude від Anthropic, направляється до центрів обробки даних, де суперкомп’ютери одночасно обробляють моделі та виконують численні високошвидкісні обчислення — спочатку інтерпретуючи підказку користувача, а потім працюючи над прогнозуванням найбільш вірогідну відповідь, один «токен» або послідовність із чотирьох літер за раз.

Для такої обчислювальної потужності потрібні графічні процесори або графічні процесори, які спочатку були створені для відеоігор, але виявились єдиними мікросхемами, які можуть виконувати такі важкі комп’ютерні завдання, як великі мовні моделі. Зараз лише одна компанія, Nvidia , продає найкращі з них, за що бере десятки тисяч доларів. Оцінка Nvidia нещодавно злетіла до 1 трильйона доларів на основі очікуваних продажів. Тайванська компанія TSMC, яка виробляє багато з цих чіпів, також різко зросла в ціні.

«На даний момент графічні процесори отримати значно важче , ніж ліки», — сказав Ілон Маск, який нещодавно придбав близько 10 000 графічних процесорів для власного стартапу зі штучним інтелектом , на саміті Wall Street Journal 23 травня.

Ці вимоги до комп’ютерів також допомагають пояснити, чому OpenAI більше не є некомерційною організацією, якою вона була заснована.

Розпочавши роботу в 2015 році з метою розробки штучного інтелекту «таким чином, який, швидше за все, принесе користь людству в цілому, не обмежений потребою отримати фінансову віддачу», до 2019 року він перейшов на комерційну модель, щоб залучити інвесторів. , включаючи Microsoft, яка залучила 1 мільярд доларів і стала ексклюзивним постачальником комп’ютерних технологій OpenAI. (Відтоді Microsoft вклала ще 10 мільярдів доларів і інтегрувала технологію OpenAI із Bing, Windows та іншими продуктами.)

Скільки точно коштує запуск таких чат-ботів, як ChatGPT, є мінливою метою, оскільки компанії працюють над тим, щоб зробити їх ефективнішими.

У грудні, незабаром після запуску, Альтман оцінив вартість ChatGPT у «ймовірно, однозначні центи за чат». За підрахунками аналітиків, це може здатися небагато, доки ви не помножите це на понад 10 мільйонів користувачів на день. У лютому SemiAnalysis підрахував, що ChatGPT обходиться OpenAI приблизно в 700 000 доларів США на день лише за обчислювальні витрати, виходячи з обробки, необхідної для запуску GPT-3.5, моделі за замовчуванням на той час.

Помножте ці витрати на обчислення на 100 мільйонів людей на день, які використовують пошукову систему Microsoft Bing , або понад 1 мільярд, які, як повідомляється, використовують Google, і ви зможете зрозуміти, чому технологічні гіганти не хочуть робити найкращі моделі ШІ доступними для громадськості.

«Це не є стійким рівнянням для демократизації або широкого доступу до генеративного штучного інтелекту, економіки чи навколишнього середовища», — сказав Сід Шет, засновник і генеральний директор d-Matrix, стартапу, який працює над створенням ефективніших мікросхем для штучного інтелекту.

У своєму лютневому оголошенні про Bard компанія Google заявила, що спочатку вона працюватиме на «полегшеній» версії мовної моделі компанії LaMDA, оскільки вона потребує «значно меншої обчислювальної потужності, що дозволяє нам масштабувати її для більшої кількості користувачів». Іншими словами, навіть така багата компанія, як Google, не була готова заплатити за використання своєї найпотужнішої технології штучного інтелекту в безкоштовному чат-боті.

Скорочення витрат дало відбиток: Bard спіткнувся з елементарними фактами під час демонстрації запуску, відрізавши 100 мільярдів доларів від вартості акцій Google. Bing, зі свого боку, рано зійшов з рейок, що спонукало Microsoft зменшити як його індивідуальність, так і кількість запитань, які користувачі можуть поставити йому в певній розмові.

Такі помилки, які іноді називають «галюцинаціями», стали серйозною проблемою для мовних моделей ШІ, оскільки як люди, так і компанії все більше покладаються на них. Експерти кажуть, що вони є функцією основного дизайну моделей: вони створені для генерування ймовірних послідовностей слів, а не правдивих тверджень.

Ще один чат-бот Google під назвою Sparrow був розроблений дочірньою компанією компанії DeepMind для пошуку в Інтернеті та цитування своїх джерел з метою зменшення кількості неправдивих фактів. Але Google поки що не випустив його.

Тим часом кожен з основних гравців намагається знайти способи зробити моделі мови штучного інтелекту дешевшими.

Виконання запиту в новій полегшеній моделі OpenAI GPT-3.5 Turbo коштує менше, ніж одна десята від її найвищої моделі GPT-4. Google створює власні чіпи штучного інтелекту , які, як стверджує, є ефективнішими за Nvidia, як і такі стартапи, як d-Matrix. І численні стартапи будують мовні моделі з відкритим вихідним кодом, такі як LLaMA від Meta, щоб їм не доводилося платити OpenAI або Google за використання їхніх — навіть якщо ці моделі ще не так добре працюють і можуть не мати огорожі щоб запобігти зловживанням.

Поштовх до менших, дешевших моделей знаменує собою раптовий розворот у галузі, сказав Голдштейн з Меріленда.

«Останні чотири роки ми просто намагалися створити найбільші моделі, які тільки могли», — сказав він. Але це було тоді, коли метою було публікувати дослідницькі статті, а не випускати чат-ботів ШІ для громадськості. «Тепер, протягом останніх кількох місяців, у спільноті відбувся повний перелом, і раптом усі намагаються створити найменшу модель, яку тільки можуть, щоб контролювати витрати».

Для споживачів це може означати, що дні безперешкодного доступу до потужних моделей штучного інтелекту загального призначення полічені.

Корпорація Майкрософт вже експериментує з додаванням реклами в результати Bing на основі штучного інтелекту. На слуханнях у Сенаті Альтман з OpenAI не виключав того, щоб зробити те саме, хоча він сказав, що віддає перевагу моделі платної підписки.

Обидві компанії кажуть, що вони впевнені, що економіка врешті-решт виясниться. У лютому Альтман сказав технічному блогу Stratechery: «Тут така велика цінність, що я не можу уявити, що ми не можемо зрозуміти, як це зробити на касовому апараті».

Проте критики відзначають, що генеративний ШІ також має витрати для суспільства.

«Уся ця обробка впливає на викиди парникових газів», — сказав Бхаскар Чакраворті, декан відділу глобального бізнесу Флетчерської школи Університету Тафтса. Для обчислень потрібна енергія, яку можна було б використовувати для інших цілей, включаючи інші обчислювальні завдання, які менш модні, ніж мовні моделі ШІ. Це «може навіть уповільнити розвиток і застосування штучного інтелекту для інших, більш значущих цілей, таких як охорона здоров’я, відкриття ліків, виявлення раку тощо», — сказав Чакраворті.

Спираючись на оцінки використання ChatGPT і обчислювальних потреб, дослідник даних Каспер Гроес Альбін Людвігсен підрахував, що в січні він міг використати стільки ж електроенергії, скільки 175 000 людей, що еквівалентно місту середнього розміру.

Наразі технологічні гіганти готові втрачати гроші, намагаючись завоювати частку ринку за допомогою своїх чат-ботів ШІ, сказав Голдштейн. Але якщо вони не можуть зробити їх прибутковими? «Врешті-решт ви підходите до кінця кривої ажіотажу, і єдине, на що ваші інвестори будуть дивитися в цей момент, це ваш кінцевий результат».

Тим не менш, Голдштейн передбачив, що багатьом людям і компаніям буде важко протистояти генеративним інструментам ШІ, навіть з усіма їхніми недоліками. «Незважаючи на те, що це дорого, — сказав він, — це все одно набагато дешевше, ніж людська праця».