Reddit почав воювати зі ШІ його ж зброєю: що вигадала платформа

Reddit почав використовувати штучний інтелект для боротьби зі спамом і ботами, яких масово створюють за допомогою таких самих технологій. У компанії заявляють, що новий підхід уже допоміг помітно скоротити кількість небажаного контенту.

Про це пише TechCrunch.

Стрімкий розвиток великих мовних моделей зробив створення спаму набагато простішим. Якщо раніше на написання переконливих повідомлень витрачали години, то тепер нейромережі можуть генерувати необмежену кількість текстів за лічені секунди.

Через це проблема ботів на платформі значно загострилася. У відповідь Reddit вирішив використовувати ті самі технології штучного інтелекту для виявлення та видалення шкідливого контенту.

У компанії визнають, що ситуація виглядає доволі парадоксально, адже боротися зі штучним інтелектом доводиться за допомогою іншого штучного інтелекту. Водночас зазначають, що для великих онлайн-платформ це фактично стало єдиним ефективним рішенням.

За офіційними даними Reddit, щодня система блокує близько 23 мільйонів переглядів спаму та виявляє приблизно 25 тисяч нових дописів і коментарів, створених ботами.

У компанії пояснили, що сучасні великі мовні моделі допомагають знаходити дуже тонкі й скоординовані схеми фейкової активності та штучного накручування популярності, які старі алгоритми часто не помічали.

У матеріалі зазначається, що інші технологічні компанії також шукають способи пристосуватися до нової реальності, однак обирають різні підходи до використання штучного інтелекту.

Фахівці вважають, що такі системи можуть допомогти модераторам ефективніше виявляти не лише спам, а й мову ворожнечі, заклики до насильства та інший небезпечний контент.

Водночас експерти наголошують, що навіть найсучасніший штучний інтелект поки не здатен повністю замінити людину. Найкращих результатів модерації вдається досягти тоді, коли алгоритми працюють разом із людьми, які можуть оцінити контекст, емоції та культурні особливості.

У Reddit додають, що продовжать удосконалювати свої системи, оскільки творці спаму також постійно змінюють методи обходу захисту. Головним завданням залишається очищення платформи від шкідливого контенту без ризику для звичайних користувачів, які теж використовують інструменти штучного інтелекту для роботи чи навчання.

Источник: expert.in.ua