Перевага Nvidia у сфері штучного інтелекту виходить за межі графічного процесора

Дмитро Сизов

До цього тижня домінуюча історія про Nvidia виглядала приблизно так: протягом перших кількох років буму штучного інтелекту Nvidia була єдиним джерелом найсучасніших графічних процесорів, які стали надзвичайно прибутковими в міру масштабування галузі. За останні кілька років такі гіперскейлери, як Amazon та Google, почали створювати власні чіпи, і Nvidia більше не є єдиним конкурентом, що змушує багатьох інвесторів замислитися над тим, наскільки насправді довговічна її перевага.

Це захоплива історія, і здебільшого правдива. Після десятикратного зростання ринкової капіталізації з початку 2023 року до середини 2025 року, акції Nvidia протягом останнього року трималися скромнішої траєкторії, зумовленої побоюваннями щодо конкуренції з боку графічних процесорів.

З моменту публікації звіту про прибутки компанії в середу сформувалася нова картина, і інвестори починають усвідомлювати, що перевага Nvidia виходить далеко за рамки графічних процесорів. Оскільки обчислення штучного інтелекту зростають до гігаватного масштабу, оркестрація стає дедалі складнішим завданням. Не дивно, що Nvidia створила значну частину сучасного обладнання, необхідного для її обробки, що дає компанії величезну перевагу в системах, що оточують графічні процесори, навіть попри зростання конкуренції з боку самих графічних процесорів. 

Незважаючи на всі розмови про обчислення як про товар , керувати мегамасштабним центром обробки даних з піковою ефективністю все ще неймовірно складно, і оскільки розгортання стають масштабнішими та швидшими, ця проблема лише зростає.

Стійка за стійкою

Ви можете побачити дещо з цього, просто переглянувши деталі того, що насправді продає Nvidia. Наразі компанія розгортає свою архітектуру Vera Rubin, яка поєднує графічний процесор Rubin з набором інших пристроїв, включаючи центральний процесор Vera, прискорювач логічного виводу Groq 3 LPX та аналогічні стійки для зберігання даних та мереж.

Протягом минулого тижня я розмовляв з людьми з Nvidia про те, що насправді роблять ці системи, і результати були несподіваними. Як і сам графічний процесор Rubin, це надзвичайно спеціалізовані системи, але замість того, щоб обробляти токени, вони забезпечують максимально ефективну роботу всього, що знаходиться поза графічним процесором. Якщо графічний процесор — це двигун, то це решта автомобіля.

Зокрема, процесор Vera зосереджений на проблемі оркестрації даних. «Vera важливий, тому що на одному сервері чи будь-якій обчислювальній платформі можна розмістити лише певну кількість пам’яті», — сказав мені Джейсон Харді, віце-президент Nvidia з технологій зберігання даних. 

Зі збільшенням обчислювальної потужності центрів обробки даних збільшилася і ємність пам'яті, тому такі компанії, як Micron, збагатилися під час другої хвилі буму інфраструктури. Але доставити ці дані до графічного процесора в потрібний час непросто, і оскільки компанії прагнуть знизити показник токенів на ват, вони усвідомлюють, наскільки важливим є такий напрямок трафіку.

«Ми побачили понад 3-кратне покращення цих операцій, де процесор Vera забезпечує прискорення», – сказав Харді. «Тож тепер ми можемо використовувати наш флеш-пам’ять на повну потужність, оскільки ми можемо отримати від нього всю цю продуктивність без затримок».

Ви можете побачити версії тієї ж проблеми поза Nvidia. Коли OpenAI розробляв свій чіп Jalapeño, головною метою було повне уникнення цих проблем шляхом мінімізації обсягу даних, які необхідно переміщувати.

«Ми розробили Jalapeño, щоб мінімізувати затримки переміщення даних та зв’язку», – заявила компанія в блозі на початку цього місяця . «Його великий домен дозволяє всьому робочому навантаженню залишатися в одній підключеній системі, мінімізуючи переміщення даних та допомагаючи повному запиту залишатися швидким та ефективним від початку до кінця».

Це інший підхід, який повністю уникає переміщення даних, виконуючи робоче навантаження в межах одного інтегрованого чіпа. Але загальна логіка та сама: підвищення ефективності за допомогою розумнішого контролю трафіку, а не просто збільшення кількості циклів процесора. Це, у свою чергу, відкриває для компаній абсолютно новий рівень інфраструктури, за який вони можуть конкурувати.

Цей новий акцент на оркестрації даних не є автоматичною перемогою для Nvidia. Компанії доведеться конкурувати з конкуруючими виробниками чіпів та гіперскейлерами так само, як і з графічними процесорами. Але конкуренція перейшла на новий рівень, де створення конкуруючого графічного процесора менше важить, ніж здатність змусити всю систему працювати ефективно.