Microsoft навчила ШІ-агентів працювати у 4 рази швидше без заміни моделей

Microsoft знайшла спосіб зробити ШІ-агентів значно швидшими та водночас зменшити витрати на їхню роботу. За даними компанії, нова технологія дає змогу скоротити час відповіді до чотирьох разів і приблизно на 30% зменшити споживання токенів. При цьому оновлювати або замінювати базову мовну модель не потрібно.

Рішення побудоване на базі SharePoint — платформи Microsoft для зберігання документів і спільної роботи. Технологія використовує механізм Work IQ, який допомагає перетворювати розрізнену корпоративну інформацію на структуровану базу знань. Завдяки цьому ШІ-агентам простіше знаходити потрібні дані, замість того щоб щоразу опрацьовувати великі обсяги документів.

Такі можливості можуть стати у пригоді під час пошуку інформації в робочих файлах, підготовки підсумків зустрічей, аналізу стану проєктів і створення матеріалів для клієнтів. Швидша обробка запитів також допомагає знизити витрати, адже використання токенів безпосередньо впливає на вартість роботи ШІ-систем.

Microsoft уже відкрила доступ до нової функції в межах програми Frontier Preview для корпоративних користувачів. Наразі вона доступна організаціям, які використовують оплату за фактичне споживання. Компанія також планує розширити підтримку технології для власних ШІ-агентів, створених у Copilot Studio.

Новий підхід показує, що прискорювати ШІ можна не лише завдяки потужнішим моделям і додатковим обчислювальним ресурсам. Оптимізація пошуку та передавання інформації також здатна зробити агентів ефективнішими, особливо в компаніях, де вони щодня працюють із великими обсягами внутрішніх даних.

Источник: itechua.com