Выпущен самый большой и мощный процессор в мире
Представлен гигантский процессор WSE-2 для машинного обучения и искусственного интеллекта. Новинка, производящаяся на мощностях TSMC по дизайну Cerebras, содержит 850 тыс. вычислительных ядер и 40 ГБ встроенной памяти, которые разместились на кристалле размером 220x220 мм.
Большой и мощный
Американская компания Cerebras Systems совместно с TSMC выпустила самый большой и производительный в мире процессор. Об этом сообщило издание Tom’s Hardware. Новинка, получившая название Wafer Scale Engine 2 (WSE-2), является преемником чипа WSE, выпущенного компанией в 2019 г.
Размеры чипа составляют 220x220 мм – на производство одной такой микросхемы уходит целая 300-миллиметровая кремниевая пластина. На площади чипа размером 46255 мм2 (примерно в 56 раз больше площади самого крупного графического процессора Nvidia A100) умещается 2,6 трлн транзисторов.
При одинаковых габаритах WSE-2 отличается от предшественника пониженным энергопотреблением, более чем удвоенным числом транзисторов и ядер. Все это стало возможным благодаря переходу с 16-нанометрового на более совершенный, 7-нанометровый техпроцесс.
Cerebras утверждает, что у нее уже есть рабочие системы на базе WSE-2, а на рынке процессор появится в III квартале 2021 г.
Особенности чипа
Процессор содержит 850 тыс. программируемых ядер, оптимизированных для вычислений в векторном пространстве, а объем встроенной памяти SRAM достигает 40 ГБ. Ядра работают на частоте в диапазоне 2,5-3 ГГц – такой же, как и у чипа первого поколения. В WSE-2 пропускная способность памяти по сравнению с WSE увеличилась с 9 ПБ/сек до 20 ПБ/сек.
Благодаря усилению межкомпонентных соединений общая пропускная способность чипа выросла со 100 Пбит/сек до 220 Пбит/сек. В чипе предусмотрена возможность обхода дефектных областей. Это необходимо, поскольку при таком внушительном количестве ядер возникновение брака при штамповке на фабрике очень вероятно.
Созданием чипов для решения задач в области искусственного интеллекта занимается множество компаний по всему миру. В их числе как гиганты вроде Nvidia, Intel, Qualcomm и Google, так и небольшие стартапы, например, британская Graphcore или американская Sambanova Systems.
ИИ-системы опираются на параллельные вычисления, для которых требуются многопроцессорные системы. Их производительность во многом ограничивает низкая скорость межпроцессорных коммуникаций, в которых задействована оперативная память. Cerebras в своих чипах линейки WSE решает эту проблему с помощью размещения огромного объема памяти непосредственно на кристалле. В нее загружается сразу вся необходимая для проведения вычислений с использованием всех рабочих ядер информация. При этом нагрузка распределяется равномерно таким образом, чтобы обработка данных была завершена всеми ядрами одновременно.
WSE-2 в составе миниатюрного суперкомпьютера
Как и прежде, чип поставляется в составе специальной системы высотой 15U под названием CS-2. Миниатюрный суперкомпьютер включает все необходимые сетевые компоненты и систему водяного охлаждения, необходимые для его эксплуатации. Система в сборе потребляет около 17 кВт электроэнергии, что на 2 кВт меньше по сравнению с предыдущей моделью. По утверждению представителей Cerebras, вычислительная мощность CS-2 эквивалента «сотням серверов на базе GPU, потребляющих сотни киловатт».
Программное обеспечение, поставляемое Cerebras, дает возможность пользователям CS-2 создавать собственные модели машинного обучения с применением популярных фреймворков, например, PyTorch и TensorFlow.
CS-2 предназначена для применения в дата-центрах по обработке параллельных вычислений в области машинного обучения и искусственного интеллекта. Среди потенциальных клиентов – исследовательские лаборатории. Издание Tom’s Hardware отмечает, что продукт может заинтересовать военных и разведывательные структуры.
Что касается гражданского сектора, первую модель мини-суперкомпьютера, в частности, использует Аргоннская национальная лаборатория (подконтрольна Министерству энергетики США) для изучения рака и проведения фундаментальных исследований, к примеру, изучения черных дыр.
Несколько фактов о Cerebras
Основанный в 2016 г. американский стартап Cerebras System, по данным ZDNet, за время своего существования привлек более 475$ млн. Сегодня в компании работают 330 сотрудников.
Побеждать в борьбе за клиентов Cerebras планирует в том числе и на маркетинговом фронте. Для этого компания наняла опытного Рупала Холленбека (Rupal Hollenbeck), бывшего директора по маркетингу в Oracle.