Згідно з відео та повідомленнями чату, якими поділився з The Washington Post SITE Intelligence Group , «якір» був підробленим, створеним прихильниками Ісламської держави в рамках нової медіа-програми News Harvest, створеної штучним інтелектом. терористичні та екстремістські рухи в Інтернеті.
Всі ведучі новин від імені ІДІЛ виявилися діпфейками ШІ
Дмитро Сизов
Через чотири дні після нападу "Ісламської держави" на російський концертний майданчик у березні відео почало поширюватися на приватній платформі, пов'язаній з терористичною групою. У 92-секундному ефірі ведучий новин у шоломі та уніформі сказав, що напад не був терористичною операцією, а частиною «нормального контексту бурхливої війни між Ісламською державою та країнами, які борються з ісламом». Цей ведучий, як і всі його "колеги" - витвір ШІ, а не жива людина.
З березня програма пропонує майже щотижневі відеорозсилки про операції Ісламської держави по всьому світу. Створена так, щоб нагадувати випуск новин Аль-Джазіри, програма — про яку раніше не повідомлялося — знаменує появу штучного інтелекту як потужного інструменту пропаганди, оскільки філії «Ісламської держави» набирають обертів і відновлюють медіа-операції групи, — сказала Ріта Кац, співзасновник SITE Intelligence Group.
«Для ІДІЛ штучний інтелект означає зміну правил гри», — сказав Кац. «Це буде для них швидким способом розповсюдити та розповсюдити свої… криваві напади [щоб] досягти майже всіх куточків світу».
Шоу починається з показу графічного логотипу та послідовності заголовків. Ведучі новин, створені штучним інтелектом, з’являються на екрані, одягнені в бойове спорядження або офіційні туніки, а тикери новин прокручуються, а відеоматеріали b-roll показують членів Ісламської держави, які виконують терористичні місії. Ведучі зачитують повідомлення офіційних ЗМІ "Ісламської держави", зокрема "Аль-Наба" та "Амак".
За словами медіа-експертів із питань тероризму, ці відео є одними з перших ознак того, що штучний інтелект допомагає терористичним групам швидко поширювати пропаганду та вербувати членів, і навіть викликали внутрішні дебати щодо використання технології згідно з ісламським правом.
«Ісламська держава» відома своєю гучною медіа-операцією, яка створює відео про вербування голлівудського рівня, які привабливі для молоді. Відеогенератори штучного інтелекту тепер дозволяють їм створювати такий контент за невелику частку вартості. Декілька ісламістських бойових організацій, у тому числі Аль-Каїда, виявили зацікавленість у використанні чат-ботів зі штучним інтелектом, генераторів зображень і клонувальників голосу для швидкого створення дезінформації, свідчать повідомлення, опубліковані The Post.
Штучний інтелект дає прихильникам Ісламської держави можливість створювати пропаганду, яка маскується в нешкідливий спосіб, наприклад, випуск новин, що ускладнює модерацію технологічних компаній, сказав Кац. Дешеві та прості у використанні інструменти штучного інтелекту дозволяють знімати відео швидко та за мізерний бюджет, що приносить користь таким групам, як Ісламська держава та Аль-Каїда, які були ослаблені військовими атаками.
«Моджахеди ЗМІ»
Прихильники «Ісламської держави» охоче використовували ШІ для пропаганди. 15 березня один із прихильників «Al Kurdi 500» на сервері приватних повідомлень обґрунтував, чому колеги-прихильники повинні прийняти ШІ.
«Було б чудово, якби брати створювали відео про щоденні новини, як альтернативу читанню новин у текстовому вигляді та перегляду зображень, — написав Al Kurdi 500, — наприклад, як канали новин, такі як Al Jazeera», розповідають про події.
«Технології сильно розвинулися, і сьогодні це було б легше зробити, особливо з використанням ШІ», — додав Аль Курді 500. «Медіа такі ж важливі, як фізична війна, або навіть більше. Бо це має дуже великий вплив на людей».
Через сім днів після цього повідомлення члени "Ісламської держави" вбили щонайменше 133 людини під час нападу на музичний зал у Підмосков'ї. Прихильник екстремістського угруповання під назвою Hisad швидко мобілізувався, щоб створити відео, згенероване штучним інтелектом. 26 березня Hisad опублікував перший епізод News Harvest на платформі приватних повідомлень.
Після російської атаки було опубліковано шість трансляцій News Harvest, які містять огляд останніх операцій філій Ісламської держави по всьому світу, зокрема в Нігері, Камеруні, Іраку, Сирії та Нігерії. Незрозуміло, яка технологія AI використовується, хоча деякі прихильники в публікаціях заохочують використання «хорошого» програмного забезпечення AI, такого як інструмент клонування голосу від Eleven Labs, компанії з виробництва аудіо AI. (Eleven Labs не відповіли на запит на коментар.)
Стівен Сталінскі, виконавчий директор Близькосхідного медіадослідного інституту (MEMRI), сказав, що ці епізоди не створені офіційним підрозділом Ісламської держави, тому незрозуміло, чи вони узгоджуються з головною стратегією групи. Але він сказав, що не здивується, якщо він створить медіа-підрозділ штучного інтелекту, оскільки він завжди швидко впроваджував найсучасніші технології.
Про-Ісламська держава ЗМІ вже шукає людей з навичками ШІ, сказав він. У повідомленні, отриманому MEMRI від 23 квітня, показано, як один запрошує експертів із створення плакатів, написання статей і редагування відео, а також досвідчених у Adobe Photoshop, Premiere та AI. «О моджахеди медіа», – йдеться у дописі. «ЗМІ чекають вашої атаки».
Інші ісламістські бойові організації, такі як Аль-Каїда, також обговорюють використання ШІ. 9 лютого група, пов’язана з Аль-Каїдою, оголосила про початок проведення онлайн-семінарів зі штучного інтелекту. Наступного дня він у партнерстві з іншою дочірньою організацією «Аль-Каїди» випустив 50-сторінковий посібник під назвою «Неймовірні способи використання чат-ботів зі штучним інтелектом», у якому надано базовий огляд OpenAI ChatGPT, включаючи звіти таких джерел, як Wired Magazine про Згідно з документом, яким SITE Intelligence Group поділилася з The Post, AI переклав на арабську мову.
«ChatGPT — це потужний інструмент», — йдеться у вступі до посібника. «Тож давайте подивимося, що ви можете зробити з цим інструментом, добре?»
Сталінський сказав, що технологічні компанії, де прихильники «Ісламської держави» поширюють контент — наприклад, на захищеній платформі обміну повідомленнями Rocket.Chat, Telegram і X — погано знімають матеріали ісламістських бойовиків. За його словами, тепер, коли штучний інтелект дозволяє виводити на поверхню більше медіа такого типу, це стане проблемою для регуляторів і антитерористичних зусиль.
Лаіс Мачадо Роча, представник зі зв’язків із громадськістю Rocket.Chat, сказав, що компанія є платформою з відкритим кодом, яка не розміщує повідомлення на своїх серверах, і тому не може їх видалити. «Поширення повідомлень обмежено користувачами конкретного нелегального робочого простору», — сказав Роша.
Telegram і X не відповіли на запити про коментарі.
Обличчя заборонено?
Понад десять років тому медіа-підрозділ "Ісламської держави" Аль-Хаят дозволив "Ісламській державі" випускати високоякісні відео, що є ключовою тактикою вербування людей з усього світу. Незважаючи на те, що західні військові атаки знищили розкол, кажуть експерти з тероризму, штучний інтелект дозволяє прихильникам Ісламської держави швидко створювати пропаганду протягом кількох днів після терористичної атаки, яка може залишатися в мережі довше, ніж кривавий контент, коли є висока можливість радикалізації нових членів.
«Якщо ви здійсните найкращу атаку в світі і не поширите її, ви втратите своє досягнення», — сказав Кац. «Те, що зараз робить штучний інтелект, дозволяє їм створювати стільки, скільки вони хочуть, за короткий час».
Відео, тим часом, також викликало внутрішню суперечку серед прихильників Ісламської держави щодо того, чи заборонені штучно створені зображення людей ісламським законом, що називається «харам».
«Не показуйте обличчя малюнків або обличчя … анімацій, ЦЕ ЗАБОРОНЕНО ХАРАМ», – написав прихильник Ісламської держави на ім’я Хамед 123 творцю серії News Harvest на приватній платформі, згідно з повідомленнями SITE Intelligence Group, наданими The Post. .
Хамед 123 писав, що люди, які створюють зображення «шляхом малювання або гравіювання», будуть покарані в День Воскресіння ісламу. «Ці заборонені зображення є зображеннями живих істот, таких як люди, тварини та птахи», — додав Хамед 123.
Хісад відповів на початку травня. «Я пішов і поговорив із шейхом про це, і він сказав, що відображати анімацію або креслення штучного інтелекту – це харам», — написав Хісад. «Тож він сказав мені розмити обличчя моделі, і тому ви зараз бачите його таким», – маючи на увазі нещодавні епізоди трансляції News Harvest, де створений штучним інтелектом ведучий виглядає більш мультяшним із затемненим обличчям. .
Аарон Зелін, старший науковий співробітник Вашингтонського інституту близькосхідної політики, сказав, що штучний інтелект може сприяти зростанню домашнього екстремізму, пропонуючи людям будь-де можливість поглинати пропаганду, створювати створені штучним інтелектом ЗМІ та вступати в екстремістську групу.
«Якщо ви кинете стільки шматочків спагетті в стіну, зрештою один із них прилипне», — сказав він. «Це може надати більше можливостей для вірусності такого типу контенту».