Новий процесор від Google змінить майбутнє штучного інтелекту

Google нещодавно анонсувала запуск своїх нових моделей штучного інтелекту Gemini, супроводжуючи цю подію випуском останньої версії свого флагманського тензорного процесора (TPU) для навчання та виведення ШІ. Цей крок Google бачиться як спроба змагатися з графічними процесорами, що лідирують на ринку (GPU) від Nvidia.

TPU v5p , найпотужніший прискорювач ШІ від Google, був задіяний для роботи "AI Hypercomputer". Це суперкомп'ютерна архітектура, спеціально створена для запуску програм штучного інтелекту, на відміну від звичайних суперкомп'ютерів, які зазвичай використовуються для наукових розрахунків.

Остання версія TPU включає 8,960 чіпів на кожен вузол (частина системи), порівняно з 4,096 у версії v4, і в чотири рази більш масштабована в плані доступності FLOPs на вузол. Нові вузли забезпечують пропускну здатність у 4,800Gbps і мають 95GB високошвидкісної пам'яті (HBM) проти 32GB HBM RAM у TPU v4.

Відмінність між Nvidia H100 і Google TPU v5p у швидкості: Google не пропонує свої TPUs іншим компаніям для покупки, вони використовуються виключно всередині компанії для власних продуктів та сервісів. Довгий час TPUs від Google використовувалися для підтримки таких сервісів як Gmail, YouTube та Android, а остання версія також була використана для навчання Gemini.

TPU v5p від Google в 2.8 рази швидше навчає більших мовних моделей, ніж TPU v4, і пропонує в 2.1 рази більше цінності за гроші. Хоча проміжна версія TPU v5e, випущена раніше цього року, пропонує найбільшу цінність, вона всього на 1.9 рази швидше за TPU v4, що робить TPU v5p найбільш потужним варіантом.

TPU v5p навіть досить потужний, щоб конкурувати з широко затребуваним GPU H100 від Nvidia, одним із найкращих графічних карт для роботи з ІІ. Цей компонент у чотири рази швидше обробляє робочі навантаження, ніж GPU A100 від Nvidia, згідно з даними компанії.

Тим часом, TPU v4 від Google, згідно з дослідженням , опублікованим у квітні, в 1.2-1.7 разів швидше, ніж A100. Попередні розрахунки показують, що TPU v5p приблизно в 3.4-4.8 рази швидше, ніж A100, що ставить його на рівні або навіть вище ніж H100, хоча для остаточних висновків необхідні більш детальні тести.