ШІ-інструмент TikTok дозволив вкласти слова Гітлера в уста відомого актора

TikTok помилково опублікував посилання на внутрішню версію свого нового інструменту штучного інтелекту для створення цифрових аватарів без захисних огорож, що дозволяє користувачам створювати відео, які говорять про що завгодно. Гикавку вперше помітила CNN і дозволила каналу створити відео, що містять цитати з Гітлера та повідомлення, яке закликає людей пити відбілювач, серед інших фраз. Відтоді TikTok припинив роботу цієї версії інструменту, а версія, яку TikTok планував запустити, залишається доступною.

Цифрові аватари Symphony від TikTok, запущені на початку цього тижня , дозволяють компаніям створювати рекламу, використовуючи образи платних акторів. Він також використовує дубляж на основі штучного інтелекту, який дозволяє рекламодавцям вводити сценарій, щоб аватари говорили те, що вони хочуть, згідно з правилами TikTok. Попри те, що лише користувачі з обліковим записом TikTok Ads Manager можуть отримати доступ до цього інструменту, версія, знайдена CNN, може спробувати будь-хто з особистим обліковим записом.

У заяві для The Verge речниця TikTok Лаура Перес каже, що TikTok усунув «технічну помилку», яка «дозволяла надзвичайно невеликій кількості користувачів створювати контент за допомогою версії інструменту для внутрішнього тестування протягом кількох днів».

Коли CNN виявив внутрішній інструмент, він дозволив телеканалу створювати відео, де читається «Лист до Америки» Усами бен Ладена, гасло переваги білої раси та відео, яке закликає людей голосувати не в той день. Жодне з відео, створених CNN, не мало водяного знака, який би вказував на те, що відео згенероване штучним інтелектом, як це робить правильна версія Symphony Digital Avatars від TikTok.

CNN не публікував створені ним відео в TikTok, але Перес зазначає, що якби це було, контент «був би відхилений через порушення нашої політики». Попри те, що з того часу TikTok відмовився від цієї версії свого інструменту, це ставить під сумнів, чи знайдуть люди інші способи зловживати творцем цифрового аватара — і чи готовий TikTok до цього.