Инженеры создали первый в мире аналоговый ИИ-процессор
Приложения, работающие на основе искусственного интеллекта, внедряются повсеместно — от смартфонов до супертанкеров. Но проблемы у них те же, что и у традиционных приложений: нехватка скоростей и мощностей. Учитывая, что алгоритмы машинного обучения обеспечивают быстрое развитие ИИ-систем, традиционная цифровая электроника с трудом обеспечивает необходимую производительность при низком энергопотреблении и адекватных ресурсах памяти. Но разработчики микросхем, похоже, нашли решение: они пользуются преимуществами аналоговых вычислений.
Как сообщает издание forbes.com, недавно компания Mythic (США) первой в мире выпустила на рынок аналоговый матричный процессор M1076 (Mythic AMP). Этот однокристальный чип демонстрирует впечатляющие вычислительные мощности при очень низком энергопотреблении.
Каждый чип AMP может выдавать до 35 TOPS (триллионов операций в секунду) с профилем мощности 3 Вт. При условии, что чип Mythic сможет выдавать 10 TOPS на 1 Вт, он станет лидером среди передовых платформ для искусственного интеллекта. Разработчики сосредоточились на развертывании ИИ на периферии, где мощность и производительность имеют решающее значение и требуются большие или несколько моделей.
Майк Генри, основатель и генеральный директор компании, говорит, что намерен в скором времени предоставить результаты тестирования устройства.
M1076 AMP сделан в виде компактной карты PCIe M.2 A + E Key для встроенных периферийных ИИ-приложений. Для приложений, которым требуются большие вычислительные мощности, на одной карте PCIe можно объединить 16 AMP. По словам Генри, один чип может поддерживать несколько моделей одновременно. Карта с 15-ю микросхемами обеспечивает до 400 TOPS и 1,28 миллиарда нейронных сетей, потребляя всего 75 Вт энергии. Что касается программного обеспечения, то компания, в первую очередь, сосредоточилась на обработке изображений, ведь ИИ сейчас, чаще всего, используется для распознавания образов.
В ходе вычислений используются ячейки флэш-памяти. Настраивая свойства отдельных ячеек памяти, вы можете построить схему под свои задачи. Массив ячеек памяти может выполнять массивно-параллельные матричные операции — то, что нужно для управления нейронной сетью. Поскольку вычисления происходят непосредственно в памяти, перемещение данных туда и обратно не снижает производительности. А флеш-память очень энергоэффективна, поэтому такое вычислительное устройство потребляет мало энергии.
Mythic удалось решить проблему расширения аналоговых вычислений, увеличив его с двух битов до четырех и до восьми. Объема встроенной памяти M1076 AMP вполне достаточно для ПО, обеспечивающему одновременную работу нескольких нейронных сетей, например, в современных камерах наблюдения.