Нові моделі прийняття рішень ШІ можуть змінити модерацію контенту

Оскільки моделі прийняття рішень поширюються по всій галузі, компанія під назвою Musubi має нову ідею щодо їхнього застосування: модерація контенту. Musubi анонсувала спрощену модель прийняття рішень для модерації в режимі реального часу під назвою PolicyLM-1.7B , випущену з відкритими вагами.

Ідея полягає в тому, щоб взяти політику контенту, написану простою англійською мовою, та застосувати її до повідомлень менш ніж за 50 мілісекунд. Модель Мусубі розроблена таким чином, щоб за вартістю та швидкістю бути подібною до систем класифікації на основі штучного інтелекту, які забезпечують модерацію на більшості соціальних платформ, але оскільки вона має гнучкість сучасного LLM, вона може застосовувати складні політики без спеціального навчання. Що ще важливіше, модель не потребуватиме нового навчання, коли політика змінюється, що дозволить розробникам політик виконувати стільки ітерацій, скільки їм потрібно.

Як бачить співзасновник Musubi та головний директор зі штучного інтелекту Філіп Янкович, це дає менеджерам платформ можливість проактивно маркувати контент.

«Команди розробників продукту просто хочуть краще розуміти, що відбувається на їхній платформі, особливо враховуючи, що обсяг контенту зростає в геометричній прогресії», — каже Янкович. «Можливість маркувати все це дуже масштабованим та налаштовуваним способом надзвичайно корисна».

Моделі прийняття рішень стали гарячою темою у світі штучного інтелекту з моменту випуску Jev від TypeSafe AI у вересні , після чого невдовзі з'явилися конкуруючі моделі прийняття рішень від OpenAI та Amazon . Замість виведення тексту, модель прийняття рішень видає ймовірності результату, хоча в цьому випадку модель видає бінарне судження: або контент належить до категорії, або ні. Обмежуючи вивід моделі набором заздалегідь визначених варіантів, моделі прийняття рішень можуть працювати швидше та дешевше, ніж моделі з великими мовами програмування, зберігаючи при цьому гнучкість архітектури трансформатора.

Одним із ранніх випадків використання є стримування неналежної поведінки агентів штучного інтелекту, тому цілком природно застосовувати ту саму технологію до неналежної поведінки людей.

Примітно, що Янкович каже, що його інтерес до моделей прийняття рішень сягає ще до Jev, простежуючи його до проекту 2024 року під назвою GLiNER (Generalist Model for Named Entity Recognition - Загальна модель для розпізнавання іменованих сутностей), який використовував багато тих самих методів.