Сатья Наделла зробив неочікуване попередження компаніям, що використовують штучний інтелект

У несподіваному дописі в блозі генеральний директор Microsoft Сатья Наделла попереджає, що користувачі ШІ («покупці», як він їх називає) платять двічі. Вони свідомо платять за використання токенів ШІ, але також, несвідомо, передають цінні дані в процесі.

«Ви по суті платите за інтелект двічі: один раз грошима, а інший — чимось ще ціннішим: власними знаннями, які ви повинні розкрити, щоб зробити цей інтелект корисним. Чим краще ви хочете, щоб модель працювала, тим більше цих знань у вас є, щоб її живити!» — пише він.

Найнебезпечніше те, що підприємства буквально навчають моделі нюансам свого бізнесу, стверджує він.

«Моделі навчаються на «вичерпному» підказках, які пишуть люди, інструментах, які використовують агенти, і особливо на виправленнях, які люди вносять, коли модель помилкова. Кожне виправлення перетворюється на інституційне ноу-хау», – пише він.

Це «той тип знань, який конкурент ніколи не зміг би купити», і все ж підприємства передають їх.

Наделла стверджує, що якщо компанії, що займаються штучним інтелектом, можуть вільно збирати дані з інтернету для навчання своїх моделей, то справедливо, щоб підприємства також могли вивчати — або «дистилювати» — ці моделі натомість. «Дистиляція» — це практика використання власних результатів моделі для вивчення її роботи та навчання нової, часто дешевшої, моделі на основі цих знань. У лютому Anthropic звинуватив китайські моделі з відкритим кодом у надсиланні мільйонів підказок Claude для покращення власних моделей та закликав уряд США посилити контроль за експортом.

Суть Наделли полягає в тому, що розробники моделей не можуть мати і те, і інше. Лицемірно з їхнього боку вільно навчатися на світових даних, водночас обмежуючи інших робити те саме зі своїми моделями.

«Хоча чудова інновація, що виникає завдяки правам добросовісного використання постачальників моделей для навчання моделей на публічних даних, є необхідною, я вважаю іронічним, що статус-кво потім змінюється на краще та запроваджує обмежувальні умови для дистиляції», — пише Наделла.

Наделла особливо стурбований тим, що виробники моделей «залишають за собою право вчитися на даних про використання та взаємодію клієнтів».

Рішення Наделли саме таке запропонував би генеральний директор гігантського хмарного провайдера. Він хоче, щоб компанії «зберегли право власності» на свої дані, включаючи підказки, відгуки тощо. Тому він закликає їх створювати власні «власні навчальні середовища» в хмарі (де їхні дані, ймовірно, вже зберігаються і, зручно, це може означати хмару Microsoft Azure). Він також хоче, щоб компанії вбудували те, що він називає «шарами оркестрації» — по суті, спосіб легкого перемикання між моделями штучного інтелекту від різних постачальників, а не бути прив’язаними до одного. Інструменти, такі як «шлюзи» штучного інтелекту, які дозволяють компаніям робити саме це, стають дедалі популярнішими.

Хоча Наделла ніколи не використовує слова «відкритий вихідний код» як метод збереження права власності, це очевидний підтекст. Однак є й інший підтекст.

Великі компанії, багато з яких, окрім використання хмари, досі мають власні центри обробки даних, вже переходять на моделі з відкритим кодом, встановлені на їхніх власних приміщень («on-premise», на галузевому жаргоні). Ідіт Левін, засновниця та генеральна директорка Solo.io , яка розробляє мережеве та безпекове програмне забезпечення, що допомагає підприємствам керувати системами штучного інтелекту, каже, що саме цей перехід відбувається зі своїми клієнтами. Після експериментів з розробниками власних моделей вони починають запитувати себе: «Чи можу я взяти модель з відкритим кодом і запустити її локально? Вона виконуватиме майже 90% того, що робить велика компанія. Це коштуватиме набагато менше», – розповідає вона TechCrunch. «Вони це розуміють і можуть контролювати».

Технологію Solo.io минулого року було обрано як технологію, що забезпечує... проектом Agentgateway фонду Linux . Її компанія вважає своїми клієнтами такі підприємства, як T-Mobile, ADP та SAP. Вона бачить, що компанії все частіше встановлюють локальні моделі з відкритим кодом, і розглядає це як наступну велику хвилю використання штучного інтелекту в підприємствах.

Вона не самотня. Vercel (найбільш відома як платформа для створення та розміщення веб-сайтів, яка нещодавно додала інструменти для перемикання моделей штучного інтелекту) та OpenRouter (компанія, яка допомагає розробникам направляти запити між різними моделями штучного інтелекту) спостерігають різке зростання трафіку до моделей з відкритим кодом . Фактично, минулого місяця на відкриті моделі припадало 29% усього трафіку, що пройшов через шлюз Vercel .

Оскільки генеральний директор Microsoft, компанії, яка інвестувала як в OpenAI, так і в Anthropic, тепер відкрито закликає підприємства бути обережними з використанням власницьких моделей, можна стверджувати, що ця тенденція продовжує зростати. «Споживаючи інтелект, ви створюєте інтелект. І те, що ви створюєте, має належати вам», – пише Наделла.