OpenAI представляє свій перший спеціальний чіп від Broadcom
OpenAI представила свій перший процесор логічного виводу, розроблений та виготовлений у співпраці з Broadcom. Новий процесор під назвою Jalapeño був розроблений спеціально для унікальних потреб систем логічного виводу OpenAI. За словами компанії, у розробці чіпа допомогли власні моделі штучного інтелекту OpenAI.
Хоча чіп все ще тестується, OpenAI стверджує, що ранні результати показують значно кращу продуктивність на ват, ніж у сучасних альтернатив.
Про партнерство було офіційно оголошено в жовтні , але чутки про плани OpenAI щодо чіпів давно ходили як про спосіб зменшення залежності компанії від графічних процесорів Nvidia. Google та Amazon створили власні чіпи для аналогічної мети, які часто називають «прискорювачами штучного інтелекту» — кремній, спеціально розроблений для пришвидшення робочих навантажень машинного навчання.
Президент OpenAI Грег Брокман пояснив підхід компанії до розробки чіпів у своєму власному подкасті невдовзі після оголошення про партнерство з Broadcom.
«Ми глибоко розуміємо обсяг роботи», – сказав Брокман в епізоді. «Ми справді шукали конкретні робочі навантаження, які недостатньо заповнені, [і запитували], як ми можемо створити щось, що зможе пришвидшити те, що можливо?»
Jalapeño спеціально розроблений для логічного висновку, процесу запуску попередньо створених моделей штучного інтелекту у відповідь на команди користувача. У своєму оголошенні OpenAI наголосила на низькій експлуатаційній вартості чіпа під час запуску моделей кодування в реальному часі. Цілком ймовірно, що більш ресурсомісткі завдання, такі як попереднє навчання, все ще залежатимуть від апаратного забезпечення Nvidia, але навіть невелике скорочення витрат на логічний висновок може значно покращити прибуток компанії.
Оптимізація цієї системи логічного висновку може виявитися вирішальним фактором в економіці ШІ в майбутньому — і, ймовірно, це відбуватиметься на кожному рівні стеку. OpenAI вже створює агентні продукти, такі як Codex, та моделі, які їх забезпечують, а також центри обробки даних для запуску цих моделей. Перехід на спеціально розроблені чіпи дозволяє компанії піти ще далі в цьому процесі, як пояснила компанія у своєму оголошенні.