Мета розпочне маркування зображень, створених штучним інтелектом
Дмитро Сизов
МЕТА найближчими місяцями почне виявляти та позначати зображення, згенеровані службами штучного інтелекту інших компаній, використовуючи набір невидимих маркерів, вбудованих у файли, заявив у вівторок керівник її політики.
Meta застосовуватиме мітки до будь-якого вмісту з маркерами, який буде опубліковано в її службах Facebook, Instagram і Threads, намагаючись сигналізувати користувачам, що зображення, які в багатьох випадках нагадують справжні фотографії, насправді є цифровими творами, заявив президент компанії. глобальних справ, Нік Клегг, написав у блозі.
Оголошення дає раннє уявлення про нову систему стандартів, які технологічні компанії розробляють для пом’якшення потенційної шкоди, пов’язаної з генеративними технологіями штучного інтелекту, які можуть викидати підроблений, але реалістичний контент у відповідь на прості підказки.
Цей підхід базується на шаблоні, створеному протягом останнього десятиліття деякими з тих самих компаній для координації видалення забороненого контенту на різних платформах, включаючи зображення масового насильства та експлуатації дітей.
В інтерв’ю Reuters Клегг сказав, що він впевнений, що на даний момент компанії можуть надійно позначати зображення, згенеровані штучним інтелектом, але сказав, що інструменти для позначення аудіо- та відеоконтенту складніші та все ще розробляються.
«Незважаючи на те, що технологія ще не повністю зріла, особливо коли справа доходить до аудіо та відео, ми сподіваємося, що ми зможемо створити відчуття імпульсу та стимулу для решти індустрії наслідувати», — сказав Клегг.
Тим часом, додав він, Meta почне вимагати від людей позначати свій власний змінений аудіо- та відеоконтент і застосовуватиме покарання, якщо вони цього не зроблять. Клегг не описав пенальті.
Він додав, що наразі немає життєздатного механізму для позначення написаного тексту, створеного такими інструментами ШІ, як ChatGPT.
— Цей корабель відплив, — сказав Клегг.
Представник Meta відмовився сказати, чи буде компанія застосовувати мітки до генеративного AI-контенту, який публікується в її службі зашифрованих повідомлень WhatsApp.
Незалежна наглядова рада Meta в понеділок засудила політику компанії щодо оманливо фальсифікованих відео, заявивши, що вона занадто вузька, і вміст слід позначати, а не видаляти.
Клегг сказав, що в цілому згоден з цією критикою.
Правління мало рацію, сказав він, що існуюча політика Meta «просто не відповідає меті в середовищі, де ви матимете значно більше синтетичного та гібридного контенту, ніж раніше».
Він навів нове партнерство з маркування як доказ того, що Meta вже рухається в напрямку, запропонованому правлінням.