ChatGPT почне виявляти екстремістів серед користувачів

OpenAI запускає систему, яка автоматично ідентифікуватиме користувачів із ознаками екстремістських намірів у їхніх запитах. Це рішення прийнято у відповідь на критику щодо нездатності штучного інтелекту вчасно запобігати проявам радикалізму.

Критика компаній, що розробляють штучний інтелект, зросла після того, як у Канаді користувач ChatGPT, заблокований за екстремістські запити, влаштував стрілянину в школі. Влада не отримала жодних повідомлень про підозрілу активність на платформі, що викликало занепокоєння щодо безпеки.

Нововведення від OpenAI покликане підвищити рівень безпеки, зменшити ризики використання технологій для радикалізації та підвищити відповідальність при роботі з контентом.

OpenAI — провідна компанія в галузі штучного інтелекту, заснована у 2015 році, що розробляє передові моделі генерації тексту й інших мультимедійних матеріалів. Її продукти широко застосовуються у різних сферах, від бізнесу до освіти.

Це нововведення може стати новим стандартом у боротьбі з екстремізмом в інтернеті та допоможе створити більш безпечне цифрове середовище.

З огляду на зростаючі виклики безпеки, подальший розвиток таких систем, ймовірно, призведе до ще більш жорсткого контролю за потенційно шкідливим контентом і користувачами.

Источник: ua.news