Google показала технологію, яка підвищує ефективність ШІ

Google представила технологію TurboQuant, яка, за її словами, здатна у 6 разів скоротити обсяг пам’яті, потрібний для роботи великих мовних моделей ШІ. Це викликало побоювання у інвесторів, що попит на мікросхеми пам’яті, ключовий компонент ШІ-інфраструктури, може зменшитися.

Після новини акції провідних виробників пам’яті в Азії та США впали: SK Hynix – на 6%, Samsung Electronics – майже на 5%, Kioxia – близько 6%, а у США Sandisk і Micron також залишалися в мінусі.

TurboQuant оптимізує кеш ключів і значень у ШІ-моделях, щоб уникнути повторних обчислень, підвищуючи ефективність. Це потенційно знижує потребу у пам’яті під час навчання моделей, що й викликає занепокоєння щодо попиту на спеціалізовані мікросхеми. Проте експерти вказують, що оптимізація апаратного забезпечення дозволяє створювати більш потужні моделі, які з часом потребуватимуть ще кращого обладнання.

Глава Cloudflare Меттью Прінс відзначив, що можливості подальшої оптимізації ШІ залишаються великими. Аналітик Ray Wang пояснив, що усунення вузьких місць робить апаратну платформу продуктивнішою, а потужніші моделі в майбутньому підвищують потребу в сучасних чіпах. Тобто TurboQuant не обов’язково призведе до скорочення попиту на пам’ять.

Довгострокову підтримку ринку пам’яті забезпечує високий попит і дефіцит пропозиції, що вже підняло ціни та прибутки Samsung, SK Hynix і Micron. За останній рік акції Samsung зросли майже на 200%, а Micron і SK Hynix – більш ніж на 300%.

Експерти наголошують, що зниження котирувань цього тижня частково зумовлене фіксацією прибутку, а інновація Google стала лише додатковим фактором для короткострокового тиску на акції, не змінюючи загальної перспективи попиту на пам’ять.

Источник: itechua.com