У звіті Стенфордської обсерваторії Інтернету детально розглядається CyberTipline, уповноважений федеральним центром обміну повідомленнями про матеріали сексуального насильства над дітьми в Інтернеті, відомі як CSAM. Лінія підказок щороку збирає десятки мільйонів повідомлень про сексуальне насильство над дітьми з таких платформ, як Facebook, Snapchat і TikTok, і пересилає їх до правоохоронних органів, що іноді призводить до судових переслідувань, які можуть розкрити групи педофілів і секс-торгівлі людьми.
Але лише від 5 до 8 відсотків цих повідомлень коли-небудь призводять до арештів, йдеться у звіті, через брак фінансування та ресурсів, юридичні обмеження та каскад недоліків у процесі звітування, визначення пріоритетів і розслідування. Якщо ці обмеження не будуть усунені найближчим часом, попереджають автори, система може стати непрацездатною, оскільки новітні генератори зображень штучного інтелекту створюють потоки сексуальних зображень віртуальних дітей, які все більше «не відрізняються від реальних фотографій дітей».
«Ці тріщини стануть прірвами у світі, в якому штучний інтелект створює абсолютно новий CSAM», — сказав Алекс Стамос, експерт із кібербезпеки Стенфордського університету, який був співавтором звіту. Хоча комп’ютерна дитяча порнографія створює свої проблеми, він сказав, що більший ризик полягає в тому, що «AI CSAM збирається поховати фактичний контент сексуального насильства», відволікаючи ресурси від справжніх дітей, які потребують порятунку.
Звіт посилює обурення через розповсюдження CSAM , яке може зруйнувати життя дітей, і ймовірність того, що генеративні інструменти ШІ посилять проблему. Це відбувається в той момент, коли Конгрес розглядає набір законопроектів, спрямованих на захист дітей в Інтернеті, після того, як сенатори під час слухань у січні розкритикували керівників технологічних компаній .
Серед них – Закон про безпеку дітей в Інтернеті , який накладає нові вимоги до технологічних компаній, щоб зменшити низку потенційних збитків для молодих користувачів. Деякі прихильники безпеки дітей також наполягають на внесенні змін до розділу 230 відповідальності для онлайн-платформ. Хоча може здатися, що їхні висновки додають терміновості цьому законодавчому поштовху, автори Стенфордського звіту зосередили свої рекомендації на зміцненні поточної системи звітності, а не на придушенні онлайн-платформ.
«Є багато інвестицій, які можна витратити лише на вдосконалення поточної системи, перш ніж робити щось, що порушує конфіденційність», як-от ухвалення законів, які змушують онлайн-платформи сканувати на наявність сексуального насильства, або вимагають «чорних дверей» для правоохоронних органів у зашифрованих програмах обміну повідомленнями. – сказав Стамос. Колишній директор Стенфордської інтернет-обсерваторії Стамос також колись працював керівником служби безпеки у Facebook і Yahoo.
У звіті стверджується, що 26-річний CyberTipline, який некомерційний Національний центр для зниклих безвісти та експлуатованих дітей уповноважений використовувати за законом, є «надзвичайно цінним», але «не відповідає своєму потенціалу».
