YouTube розширює можливості виявлення дипфейків за допомогою штучного інтелекту
YouTube розширює свою технологію виявлення подібностей, яка ідентифікує діпфейки, згенеровані штучним інтелектом, на пілотну групу урядовців, політичних кандидатів та журналістів. Учасники пілотної групи отримають доступ до інструменту, який виявляє несанкціонований контент, згенерований штучним інтелектом, і дозволяє їм вимагати його видалення, якщо вони вважають, що він порушує політику YouTube.
Сама технологія була запущена минулого року для приблизно 4 мільйонів творців YouTube у Партнерській програмі YouTube після попередніх тестів .
Подібно до існуючої системи Content ID YouTube , яка виявляє матеріали, захищені авторським правом, у відео, завантажених користувачами, функція виявлення схожості шукає змодельовані обличчя, створені за допомогою інструментів штучного інтелекту. Ці інструменти іноді використовуються для поширення дезінформації та маніпулювання сприйняттям реальності людьми, оскільки вони використовують підроблені портрети відомих осіб, таких як політики чи інші урядовці, щоб говорити та робити у цих відео зі штучним інтелектом те, чого вони не робили в реальному житті.
За допомогою нової пілотної програми YouTube прагне збалансувати свободу слова користувачів із ризиками, пов’язаними з технологією штучного інтелекту, яка може створювати переконливу подібність до публічної особи.
«Це розширення справді стосується цілісності публічної дискусії», – сказала Леслі Міллер, віцепрезидент YouTube з питань урядових справ та державної політики, на брифінгу для преси перед запуском у вівторок. «Ми знаємо, що ризики видання себе за когось іншого особливо високі для тих, хто працює в громадському середовищі. Але хоча ми й забезпечуємо цей новий захист, ми також обережно ставимося до того, як його використовуємо», – зазначила вона.
Міллер пояснив, що не всі виявлені збіги будуть видалені за запитом. Натомість YouTube оцінюватиме кожен запит відповідно до чинних правил політики конфіденційності, щоб визначити, чи є контент пародією чи політичною критикою, що є захищеними формами вільного вираження поглядів.
Компанія зазначила, що вона також виступає за ці захисти на федеральному рівні, підтримуючи Закон NO FAKES у Вашингтоні, округ Колумбія, який регулюватиме використання штучного інтелекту для створення несанкціонованих відтворень голосу та візуальної подібності людини.
Щоб скористатися новим інструментом, учасники-пілоти повинні спочатку підтвердити свою особу, завантаживши селфі та посвідчення особи уряду. Потім вони можуть створити профіль, переглянути знайдені збіги та за бажанням подати запит на їх видалення. YouTube заявляє, що з часом планує надати людям можливість запобігати завантаженню контенту, що порушує авторські права, до його виходу в ефір, або, можливо, дозволити їм монетизувати ці відео, подібно до того, як працює система Content ID.
Компанія не підтвердила, які політики чи посадовці будуть серед перших тестерів, але заявила, що метою є те, щоб з часом технологія стала широко доступною.
Ці відео, створені за допомогою штучного інтелекту, будуть позначені як такі, але розміщення цих міток не є послідовним. Для деяких мітка відображається в описі відео, тоді як для відео, зосереджених на більш «делікатних темах», мітка застосовуватиметься на початку відео. Такий самий підхід YouTube застосовує до всього контенту, створеного за допомогою штучного інтелекту.
«Існує багато контенту, створеного за допомогою штучного інтелекту, але ця відмінність насправді не є суттєвою для самого контенту», – пояснив Амджад Ханіф, віцепрезидент YouTube з питань продуктів для творців, щодо розміщення цього лейблу. «Це може бути мультфільм, створений за допомогою штучного інтелекту. Тому я думаю, що є судження щодо того, чи є ця категорія категорією, яка заслуговує на дуже помітне застереження», – сказав він.
YouTube наразі не повідомляє, скільки видалень таких дипфейків зі штучним інтелектом було видалено за допомогою цієї технології виявлення дипфейків, що перебуває в руках творців, але зазначив, що обсяг видаленого наразі контенту був «дуже невеликим».
«Я думаю, що для багатьох [творців] це було просто усвідомлення того, що створюється, але обсяг запитів на видалення дійсно дуже низький, оскільки більшість із цього виявляється досить нешкідливим або додатковим до їхнього загального бізнесу», – сказав Ханіф.
Це може бути не так із діпфейками урядовців, політиків чи журналістів.
З часом YouTube має намір поширити свою технологію виявлення дипфейків на більше сфер, включаючи розпізнавані голоси та іншу інтелектуальну власність, таку як популярні персонажі.