Meta впроваджує нові системи захисту контенту на основі штучного інтелекту

Meta оголосила , що починає впроваджувати більш просунуті системи штучного інтелекту для контролю за контентом, оскільки планує скоротити використання сторонніх постачальників. Завдання, пов'язані з контролем за контентом, включають виявлення та видалення контенту про тероризм, експлуатацію дітей, наркотики, шахрайство та афери.

Компанія заявляє, що розгорне ці більш просунуті системи штучного інтелекту у своїх додатках, як тільки вони будуть стабільно перевершувати її поточні методи контролю контенту. Водночас вона зменшить свою залежність від сторонніх постачальників для контролю контенту.

«Хоча у нас все ще будуть люди, які перевірятимуть контент, ці системи зможуть виконувати роботу, яка краще підходить для технологій, як-от повторювані перевірки графічного контенту або сфер, де супротивники постійно змінюють свою тактику, наприклад, у випадку незаконного продажу наркотиків або шахрайства», – пояснив Мета у своєму блозі.

Мета вважає, що ці системи штучного інтелекту можуть виявляти більше порушень з більшою точністю, краще запобігати шахрайству, швидше реагувати на реальні події та зменшувати надмірне правозастосування.

Компанія стверджує, що ранні тести систем штучного інтелекту були багатообіцяючими, оскільки вони можуть виявляти вдвічі більше контенту сексуального характеру для дорослих, ніж її команди оглядачів, а також знижувати рівень помилок більш ніж на 60%. Вона також зазначає, що системи можуть виявляти та запобігати появі більшої кількості облікових записів, що видаються за іншу особу, за участю знаменитостей та інших відомих осіб, а також допомагати зупиняти захоплення облікових записів, виявляючи такі сигнали, як вхід з нових місць розташування, зміна пароля або редагування профілю.

Крім того, Meta стверджує, що системи можуть виявляти та запобігати близько 5000 спроб шахрайства на день, під час яких шахраї намагаються обманом змусити людей видати свої дані для входу.

«Експерти розроблятимуть, навчатимуть, контролюватимуть та оцінюватимуть наші системи штучного інтелекту, вимірюватимуть продуктивність та прийматимуть найскладніші рішення з високим рівнем впливу», – написав Мета у своєму блозі. «Наприклад, люди й надалі відіграватимуть ключову роль у тому, як ми приймаємо найризикованіші та найважливіші рішення, такі як оскарження блокування облікового запису або повідомлення правоохоронним органам».

Цей крок відбувається на тлі того, що Meta послаблює свої правила модерації контенту протягом останнього року або близько того, оскільки президент Дональд Трамп вдруге обійняв посаду. Минулого року компанія припинила свою програму перевірки фактів сторонніми організаціями на користь моделі Community Notes, подібної до X. Вона також скасувала обмеження щодо «тем, що є частиною мейнстрімного дискурсу», і заявила, що користувачам буде запропоновано використовувати «персоналізований» підхід до політичного контенту.

Це також відбувається на тлі того, що Meta та інші великі технологічні компанії зараз стикаються з кількома позовами  , спрямованими на притягнення гігантів соціальних мереж до відповідальності за заподіяння шкоди дітям та молодим користувачам.

Meta також оголосила у четвер про запуск помічника підтримки Meta AI, який надасть користувачам доступ до цілодобової підтримки. Помічник розгортається по всьому світу в додатках Facebook та Instagram для iOS та Android, а також у Центрі допомоги Facebook та Instagram на комп’ютерах.