TikTok визнали небезпечним для підлітків через рекомендації шкідливого контенту

Згідно з дослідженнями, алгоритм рекомендацій TikTok передає підліткам контент про самоушкодження та розлади харчової поведінки протягом декількох хвилин після того, як вони виявляють інтерес до цих тем.

Центр протидії цифровій ненависті (CCDH) виявив, що сайт для обміну відео рекламуватиме вміст, зокрема небезпечні обмежувальні дієти, вміст, який пропагує самоушкодження та вміст, який романтизує самогубство, для користувачів, які віддають перевагу цьому матеріалу, навіть якщо вони зареєстровані як до 18 років.

Для свого дослідження група кампанії створила облікові записи в США, Великобританії, Канаді та Австралії, зареєстровані у віці 13 років, мінімального віку для приєднання до служби. Він створив «стандартні» та «вразливі» облікові записи, останні містять термін «схуднути» у своїх іменах користувачів, що, за словами CCDH, відображає дослідження, які показують, що користувачі соціальних мереж, які шукають вміст про розлад харчової поведінки, часто вибирають імена користувачів, які містять схожу мову.

Акаунти «зробили коротку паузу» на відео про образ тіла, розлади харчової поведінки та психічне здоров’я, а також поставили їм лайки. Це відбувалося протягом 30-хвилинного початкового періоду, коли облікові записи були запущені, щоб відобразити ефективність алгоритму TikTok, який рекомендує контент користувачам.

У «стандартних» облікових записах вміст про самогубство було показано протягом майже трьох хвилин, а матеріали про розлад харчової поведінки показали протягом восьми хвилин.

«Результати – це кошмар кожного батька», – сказав Імран Ахмед, виконавчий директор CCDH. «Канали молодих людей бомбардують шкідливим, жахливим вмістом, який може мати значний сукупний вплив на їхнє розуміння навколишнього світу, а також на їх фізичне та психічне здоров’я».

Група заявила, що більшість відеороликів про психічне здоров’я, представлених у стандартних облікових записах через канал For You – основний спосіб, у який користувачі TikTok відчувають роботу програми – складаються з користувачів, які діляться своїми тривогами та невпевненістю.

Зображення тіла було більш шкідливим, йдеться у звіті, з обліковими записами, зареєстрованими для 13-річних підлітків, показували відео з рекламою напоїв для схуднення та хірургії «підтягування живота». Одна анімація, яка з’явилася перед стандартними обліковими записами, містила аудіозапис із написом «Я голодував заради вас» і мала понад 100 000 лайків. У звіті йдеться, що обліковим записам кожні 206 секунд показували відео про самоушкодження або розлад харчової поведінки.

Дослідники виявили, що відео, пов’язані із зображенням тіла, психічним здоров’ям і харчовими розладами, показувалися «вразливим» обліковим записам утричі частіше, ніж стандартним. Згідно зі звітом, уразливі облікові записи отримали в 12 разів більше рекомендацій щодо відео, пов’язаних із самоушкодженнями та самогубством, ніж стандартні облікові записи.

Рекомендований контент був більш екстремальним для вразливих акаунтів, включаючи методи самоушкодження та молодих людей, які обговорюють плани самогубства. CCDH зазначив, що відео, пов’язане з психічним здоров’ям або зображенням тіла, демонструвалося кожні 27 секунд, хоча в контенті переважали відео про психічне здоров’я, яке CCDH визначив як відео про тривоги, незахищеність і стан психічного здоров’я, за винятком розладів харчової поведінки, самоушкоджень і самогубств. .

Група заявила, що її дослідження не розрізняють вміст із позитивним наміром (наприклад, вміст, що виявляє відновлення) та негативний контент.

Представник TikTok, який належить китайській фірмі ByteDance і має понад 1 мільярд користувачів у всьому світі, сказав, що дослідження CCDH не відображає досвіду чи звичок перегляду реальних користувачів програми.