Стало відомо, чому Instagram показує відео вбивств і тортур користувачам

Дмитро Сизов

Крістоффер Рейнман, 32-річний музичний продюсер та інвестор, гортав Instagram восени минулого року, коли почав натрапляти на відео насильства — відео розстрілів і калічень людей, опубліковані обліковими записами, за якими, за його словами, він не стежить.

lightmv-making-reels-video-20201019.jpg.webp (76 KB)

«Це були криваві речі, відео тортур, речі, які ви просто не хочете бачити», — сказав Рейнман. «Відео насильства, вони просто почали з’являтися. Я думав, що це таке? Нічого, що я слідкую за собою». Відчувши стурбованість і огиду, він негайно зайшов у чат-додаток Discord, щоб розповісти друзям, що відбувається.

Відтоді як у 2020 році Instagram запустив Reels, конкурента платформи TikTok, він вжив агресивних заходів для розвитку цієї функції. Він винагороджував облікові записи, які публікували відео Reels, більшою кількістю переглядів і почав виплачувати щомісячні бонуси творцям, чий вміст Reels показав хороші результати в додатку.

Минулого року Instagram також оголосив, що буде більш активно використовувати алгоритмічні рекомендації контенту. Під час розмови про прибутки Meta за другий квартал генеральний директор Марк Цукерберг зазначив, що відео Reels займають 20 відсотків часу, проведеного людьми в Instagram, зазначивши, що залученість Reels «швидко зростає», а кількість часу компанії збільшилася на 30 відсотків. людей, які спілкувалися з Reels.

Але принаймні частково ця залученість виникла через види відео, з приводу яких Рейнман та інші користувачі висловлювали занепокоєння, результат, який показує, що Instagram Meta не зміг утримувати шкідливий вміст на своїй платформі, намагаючись повернути аудиторію, втрачену TikTok.

Друзі відповіли, що не тільки він. Вони також отримували у своїй стрічці відео насильства. Користувачі Twitter також почали писати про це явище. «Привіт, @instagram, — написав один користувач Twitter у вересні, — чому першим у моїй стрічці сьогодні було відео обезголовлення з облікового запису, за яким я навіть не стежу? Дякую!" Мітчелл, користувач Instagram у віці близько 20 років, який попросив, щоб його називали лише на ім’я з міркувань безпеки, сказав: «Все почалося з відео автокатастрофи або тварини, яку збив потяг. Я просто прокрутив повз нього. Тоді я почав бачити, як людей розстрілюють».

Представник Meta сказав, що компанія проводить перевірку спірного контенту, додавши, що платформа видаляє мільйони образливих відео та вживає інших заходів, щоб спробувати обмежити, хто може їх переглядати. «Цей вміст не можна рекомендувати, і ми видаляємо вміст, який порушує наші правила», — сказав речник у заяві. «Це змагальний простір, тому ми завжди активно відстежуємо та вдосконалюємо те, як запобігаємо використанню зловмисниками нових тактик, щоб уникнути виявлення та ухилитися від наших заходів».

Сторінки мемів є одними з найпопулярніших напрямків Instagram, вони збирають мільйони підписників, публікуючи відео, фотографії та меми, створені для того, щоб розсмішити глядачів або відчути зв’язок. На них припадають десятки мільйонів підписників в Instagram, і їхня аудиторія часто не дуже молода — згідно з опитуванням маркетингової компанії YPulse , 43 відсотки 13-17-річних підписуються на облікові записи мемів, вікова група, безпека в Інтернеті якої залежить одна з небагатьох речей, з якою погоджуються демократи та республіканці в Конгресі. Щоб додати занепокоєння, більшість людей, які керують обліковими записами, молоді, часто самі підлітки, кажуть у спільноті мемів.

Хоча більшість сторінок мемів не використовують таку тактику, велика кількість облікових записів, які конкурують за перегляди, почали публікувати все більш жорстокий вміст.

Відео дійсно жахливі. На одному відео закривавлену свиню пускають у м'ясорубку. Він зібрав понад 223 тисячі переглядів. Інші відео Reels, які зібрали десятки тисяч переглядів, показують жінку, яку збираються обезголовити ножем, чоловіка підвішують у підвалі та катують, жінку піддають сексуальному насильству. Кілька відео показують, як чоловіків збивають автомобілі та потяги, а на десятках людей стріляють. Інші відеоролики Reels містять кадри тварин, яких стріляють, б’ють і розчленовують.

«#ДИВИТИСЯ: 16-річна дівчина побита та спалена до смерті бандитами», — йдеться в підписі до одного відео, на якому видно закривавлену молоду жінку, яку б’ють і спалюють живцем. Відео було опубліковано на сторінці мемів в Instagram, на яку підписалися понад 567 000 користувачів.

Одного дня минулого тижня чотири великі сторінки мемів, дві з яких мають понад 1 мільйон підписників, опублікували відео маленької дитини, яку стріляють у голову. Лише на одній із цих сторінок відео зібрало понад 83 000 переглядів менш ніж за три години (аналітика для інших трьох сторінок була недоступна). «Відкрив Insta і бум першим постом wtf», — прокоментував один користувач.

Адміністратори мемів і маркетологи кажуть, що великі облікові записи мемів публікують графічний вміст на Reels, щоб підвищити залучення. Потім вони монетизують цю участь, продаючи спонсоровані публікації, насамперед агентствам, які просувають моделей OnlyFans. Що вищий рівень залученості сторінки мемів, то більше вона може стягувати плату за такі публікації. За словами маркетологів, останніми місяцями ці зусилля посилилися, оскільки маркетологи вливають більше грошей у сторінки мемів, намагаючись охопити молоду, дуже зацікавлену аудиторію підлітків.

Сара Робертс, доцент Каліфорнійського університету в Лос-Анджелесі, яка спеціалізується на соціальних медіа та модерації вмісту, сказала, що хоча те, що роблять облікові записи мемів, є неетичним, зрештою Instagram створив це середовище і повинен взяти на себе провину за сприяння токсичній екосистемі. .«Інстаграм і Мета мають добувати брудні припинити гроші», — сказала вона, маючи на увазі материнську компанію Instagram. «Звичайно, облікові записи мемів винні, але в основному винна екосистема, яка забезпечує такий благодатний ґрунт для того, щоб ці показники мали таку внутрішню економічну цінність. … [W]якби Instagram надавав структуру, комусь би не спало на думку: «розмістім відео про зґвалтування, тому що це підвищує зацікавленість». Вони готові на все, щоб збільшити ці цифри, і це повинно всіх турбувати»

Деякі сторінки мемів створюють оригінальний вміст, але багато з них переважно перепублікують медіа з усього Інтернету. Сторінки з мемами, такі як @thefatjewish , і обліковий запис , ім’я якого надто непристойне, щоб його друкувати, були одними з найпотужніших ранніх впливових людей в Instagram, створюючи величезні маркетингові бізнеси навколо своїх мільйонів підписників.

За останні роки деякі успішні сторінки мемів розширилися, перетворившись на медіа-імперії. IMGN Media, яка керує декількома популярними сторінками мемів в Instagram, включаючи @Daquan, яка має понад 16,3 мільйона підписників, залучила 6 мільйонів доларів США у 2018 році для розвитку свого бізнесу, перш ніж її придбала Warner Music Group у 2020 році за трохи менше 100 мільйонів доларів . Doing Things Media, яка володіє цілим рядом сторінок із вірусними мемами , на початку цього року залучила 21,5 мільйона доларів венчурного капіталу. Жодна з цих компаній або облікових записів, якими вони керують, не публікувала відео насильства, описаного тут.

Більше дітей прагнуть раніше використовувати Інтернет для фінансової та соціальної вигоди, тому багато адміністраторів облікових записів мемів молоді. 20-річний Джордж Локк, студент коледжу, який почав вести облікові записи мемів у 13 років, наймолодший вік, у якому Instagram дозволяє користувачам мати обліковий запис, сказав, що ніколи не публікував кров, але бачив, як багато інших молодих людей зверталися до цих методів.

«Я б сказав, що понад 70 відсотків облікових записів мемів [керують діти] віком до 18 років», — сказав він. «Зазвичай, коли ви створюєте обліковий запис мемів, ви навчаєтеся в середній школі, можливо, на першому курсі старшої школи. Це основна демографічна група для сторінок мемів, молодші підлітки. Це надзвичайно легко потрапити, особливо з культурою, яка зараз є культурою грайнд і вплив. Про це є навчальні посібники на YouTube».

Meta каже, що розміщує екрани попереджень і вікові обмеження для тривожного вмісту. «Я не думаю, що існує світ, де всі [сторінки мемів і їхні підписники] — це 18-річні люди», — сказав Локк.

24-річний Джексон Веймер, автор мемів із Нью-Йорка, сказав, що він почав помічати більше графічного вмісту на сторінках мемів минулого року, коли Instagram почав посилено проштовхувати вміст Reels у своїй стрічці Instagram. За його словами, спочатку сторінки мемів публікували відео сексуального характеру. Потім відео стали темнішими.

«Спочатку ці сторінки використовували сексуальний вміст для зростання, – сказав він, – але незабаром вони перейшли на використання кров’яного вмісту, щоб ще швидше розвивати свої акаунти. Ці криваві котушки дуже залучені, багато людей коментують».

Коментування відео в Instagram сприяє залученню. «Люди вмирають на моїй сторінці», — прокоментував один користувач відео, опубліковане на сторінці мемів, де чоловік і жінка імітують секс, сподіваючись привернути увагу глядачів. Інші коментарі під графічним відео рекламували групи дитячої порнографії в додатку для обміну повідомленнями Telegram.

У 2021 році Ваймер і 40 інших авторів мемів звернулися до платформи, щоб поскаржитися на відео сексуального характеру, якими поширюються сторінки мемів, попередивши платформу, що на сторінках публікується дедалі більше образливого вмісту. «Я трохи стурбований тим, що деякі ваші колеги в Instagram не до кінця усвідомлюють, наскільки це велика та поширена проблема», — сказав Веймер в електронному листі представнику компанії, яким він поділився з The Post.

Instagram відмовився зустрічатися з творцями щодо їх занепокоєння. Вміст, яким ділиться багато великих сторінок, став ще більш відвертим і жорстоким. «Якщо я відкрив Instagram прямо зараз і прокрутив сторінку протягом п’яти секунд, то з 50-відсотковою ймовірністю я побачу крововий пост з облікового запису мема», — сказав Веймер. «Це обезголовлення, наїзди на дітей. Відео найжахливіших речей в Інтернеті використовуються обліковими записами Instagram для збільшення аудиторії та монетизації цієї аудиторії».

Представник Meta сказав, що з 2021 року компанія розгорнула набір елементів керування та функцій безпеки для конфіденційного контенту, включаючи пониження в посаді публікацій, які містять оголене тіло та сексуальні теми.

Зростання крововиливу в Instagram виглядає організованим. У чатах Telegram, які переглядав The Post, адміністратори великих облікових записів мемів обмінювалися відвертими матеріалами та координували роботу з рекламодавцями, які бажають розміщувати рекламу на сторінках із графічним вмістом. «Купівка реклами лише на сторінках природи/гори», — йдеться в дописі від одного рекламодавця. «Купівля реклами моделей!!» – сказав ще один допис користувача з іменем BUYING ADS (покупець №1), додавши емодзі з грошовим мішком.

В одній групі Telegram з 7300 членами, яку переглядав The Post, адміністратори сторінок мемів Instagram з мільйонами підписників ділилися один з одним відео насильства. «П’ятьох сікаріосів [наймані вбивць] картелю Сінола [Сіналоа] обезголовили на камеру», — опублікував один користувач із відео обезголовлення. «… Підпишіться на IG» і включив посилання на його сторінку в Instagram.

Сем Бетеш, консультант з маркетингу впливових людей, сказав, що основний спосіб монетизації таких облікових записів мемів — це продаж спонсорованих публікацій маркетинговим агентствам OnlyFans, які діють як посередники між сторінками мемів і моделями OnlyFans, які отримують дохід, публікуючи порнографічний вміст за платною системою. підписників. Представник OnlyFans відмовився від коментарів, але зазначив, що ці агентства не пов’язані безпосередньо з OnlyFans.

Акаунти мемів є сприятливим ґрунтом для такого типу реклами через їх часто молоду чоловічу аудиторію. Можливості реклами моделей OnlyFans обмежені в Інтернеті через сексуальний характер їхніх послуг. Що вищий рівень залученості сторінки мемів, то більше сторінка може стягувати з агентств OnlyFans рекламу.

«Єдине місце, куди можна вкласти один долар і отримати три — це облікові записи мемів Instagram», — сказав Бетеш. «Ці агентства купують стільки рекламних роликів для акаунтів мемів, що не проводять належної перевірки всіх облікових записів».

Моделі OnlyFans, чиї зображення рекламувалися в рекламі на сторінках мемів, сказали, що вони не знали, що реклама з їхнім зображенням рекламується поряд із вмістом насильства. Нік Алмонте, який керує керуючою компанією OnlyFans, сказав, що він не купує рекламу з жодних облікових записів, які публікують кров, але він бачив, як у його стрічці в Instagram з’являються відео з кров’ю.

«До нас приходили дівчата [OnlyFans] і казали: «Гей, ці хлопці роблять ці абсурдні речі, щоб рекламувати мене, я не хочу бути пов’язаним із тим типом людей, з якими вони пов’язані», — Альмонте. сказав. «Це відбувається щотижня».

Акаунти мемів потенційно можуть заробити мільйони, публікуючи сцени насильства, сказала Ліз Хагелторн, авторка мемів, яка раніше керувала найбільшою мережею мемів в Instagram, що складається зі 127 сторінок і 300 мільйонів підписників. Гейґелторн сказала, що жодна з її сторінок ніколи не публікувала насильство. Але молоді, часто підлітки, адміністратори облікових записів мемів бачать кров як спосіб заробити, сказала вона.

«Що стосується крові, то алгоритм оптимізує екстремальніший вміст», — сказала вона. «Загалом ви бачите, що коли люди ненавидять вміст або не погоджуються з ним, вони витрачають на 8–10 відсотків більше часу на публікацію, а її ефективність на 8–10 відсотків краща».

За її оцінками, деякі сторінки, які публікують графічне насильство, заробляють понад 2 мільйони доларів на рік. «Індустрія мемів є продовженням індустрії реклами та впливу, — сказала вона, — і це дуже прибуткова галузь. Якщо у вас мільйон підписників, ви заробляєте приблизно від 3000 до 5000 доларів США за пост. Більші сторінки мемів можуть заробляти мільйони на рік».

«Це організовано», — сказав Веймер. «Це не двоє людей, які публікують жахливі відео, це сотні людей у ​​групових чатах, які координують публікацію та розвиток облікового запису».

Адміністратори кількох облікових записів, які публікують кров, здається, молоді люди, що, за словами Хейгелторна, очікувано, оскільки більшість адміністраторів мемів у віці підліткового віку або близько 20 років. «Аудиторія цих сторінок мемів — це люди віком від 13 до 17 років, тому люди, які ведуть сторінку, молоді», — сказав Хагелторн.

Робертс, доцент Каліфорнійського університету в Лос-Анджелесі, сказала, що її турбує вплив цього контенту та екосистеми на уявлення молодих людей про мораль.

«Схоже, що ми виховуємо покоління підлітків-шахраїв, які виростуть із абсолютно спотвореним ставленням до того, як бути етичними та водночас заробляти на життя», — сказала вона. «Це ненормально, і для молодих людей не можна піддаватися цьому, а тим більше отримувати від цього прибуток».