Один із найвидатніших прикладів на X привернув понад 45 мільйонів переглядів, 24 000 репостів і сотні тисяч лайків і закладок, перш ніж обліковий запис перевіреного користувача, який поділився зображеннями, було призупинено за порушення політики платформи. Публікація була доступна на платформі близько 17 годин до її видалення.
Тролі заполонили X графічними порно фейками створеними ШІ
Дмитро Сизов
Відверто сексуальні зображення Тейлор Свіфт, створені штучним інтелектом, циркулювали в X (колишній Twitter) протягом останнього дня, що є останнім прикладом поширення фейкової порнографії, створеної штучним інтелектом, і завдання зупинити її поширення.
Але коли користувачі почали обговорювати вірусний пост, зображення почали поширюватися та були повторно опубліковані в інших акаунтах. Багато з них все ще залишаються доступними, і з того часу з’явився потік нових графічних підробок. У деяких регіонах термін «Тейлор Свіфт ШІ» став актуальною темою, просуваючи зображення ширшій аудиторії.
У звіті 404 Media виявилося, що зображення, можливо, виникли в групі в Telegram, де користувачі діляться відвертими зображеннями жінок, створеними штучним інтелектом, які часто створюються за допомогою Microsoft Designer. Повідомляється, що користувачі в групі жартували про те, як зображення Свіфта стали вірусними на X.
Політика X щодо синтетичних і маніпульованих засобів масової інформації та оголеного тіла без згоди прямо забороняє розміщення такого вмісту на платформі. Хоча представники X, Swift і NFL не відповіли на наші запити про коментарі, X опублікував наступну публічну заяву майже через день після початку інциденту, але без конкретної згадки про зображення Swift.
База шанувальників Свіфт критикувала X за те, що він дозволив багатьом публікаціям залишатися доступними стільки ж, скільки й було. У відповідь шанувальники відповіли, заповнивши хештеги, які використовуються для розповсюдження зображень, повідомленнями, які натомість рекламують справжні кліпи виступу Свіфт, щоб приховати відверті підробки.
Інцидент говорить про дуже реальну проблему зупинити глибоке фейкове порно та зображення реальних людей, створені ШІ. Деякі генератори зображень штучного інтелекту мають обмеження, які запобігають створенню оголених, порнографічних і фотореалістичних зображень знаменитостей , але багато інших прямо не пропонують таку послугу. Відповідальність за запобігання розповсюдженню підроблених зображень часто лягає на соціальні платформи — це може бути важко зробити за найкращих обставин і навіть важче для такої компанії, як X, яка вичерпала свої можливості модерування.
Наразі ЄС розслідує компанію щодо звинувачень у тому, що вона використовується для « поширення незаконного контенту та дезінформації », і, як повідомляється, її допитують щодо її протоколів щодо кризових ситуацій після того, як було виявлено, що на платформі поширюється дезінформація про війну Ізраїлю та ХАМАС.