Насильство над дітьми зростає в Інтернеті завдяки зображенням, що створені штучним інтелектом
Відповідно до щорічної оцінки, оприлюдненої у вівторок Національним центром зниклих і експлуатованих дітей (NCMEC), американським інформаційним центром, сексуальна експлуатація дітей зростає в Інтернеті та набуває нових форм, таких як зображення та відео, створені штучним інтелектом. повідомлення про матеріали сексуального насильства над дітьми.
Повідомлення NCMEC про жорстоке поводження з дітьми в Інтернеті зросли більш ніж на 12% у 2023 році порівняно з попереднім роком, перевищивши 36,2 мільйона повідомлень, йдеться в щорічному звіті організації CyberTipline. Більшість отриманих повідомлень стосувалася розповсюдження матеріалів сексуального насильства над дітьми (CSAM), таких як фотографії та відео, але також збільшилася кількість повідомлень про фінансове сексуальне вимагання, коли онлайн-хижак спонукає дитину надсилати оголені зображення чи відео. а потім вимагає гроші.
За даними NCMEC, деякі діти та сім’ї були виманені заради фінансової вигоди хижаками, які використовували CSAM, створений штучним інтелектом.
Центр отримав 4700 повідомлень про зображення або відео сексуальної експлуатації дітей, зроблені генеративним штучним інтелектом, категорію, яку він почав відстежувати лише в 2023 році, сказав речник.
«NCMEC глибоко стурбований цією швидко наростальною тенденцією, оскільки зловмисники можуть використовувати штучний інтелект для створення глибоко підроблених зображень або відео відверто сексуального характеру на основі будь-якої фотографії реальної дитини або створювати CSAM із зображенням згенерованих комп’ютером дітей, які беруть участь у графічних сексуальних актах», йдеться у звіті NCMEC.
«Для дітей, яких бачать у діпфейках, і їхніх сімей це руйнівно».
За словами організації, створений штучним інтелектом контент про жорстоке поводження з дітьми також перешкоджає ідентифікації справжніх дітей-жертв.
Створення таких матеріалів є незаконним у Сполучених Штатах, оскільки створення будь-яких візуальних зображень неповнолітніх, які беруть участь у відвертих сексуальних діях, є федеральним злочином, за словами прокурора Міністерства юстиції штату Массачусетс, який говорив на умовах анонімності.
Загалом у 2023 році CyberTipline отримав понад 35,9 млн повідомлень про випадки ймовірного сексуального насильства над дітьми, понад 90% із них завантажено за межі США. Згідно зі звітом у вівторок, приблизно 1,1 мільйона повідомлень було направлено до поліції США, і 63 892 повідомлення були терміновими або стосувалися дитини, яка перебувала в безпосередній небезпеці.
Було 186 000 повідомлень про онлайн-спокуси, що на 300% більше, ніж у 2022 році; спокушання – це форма експлуатації, яка передбачає спілкування особи, яка спілкується в Інтернеті з особою, яку вважають дитиною, з наміром вчинити сексуальний злочин або викрадення.
Платформою, яка надіслала найбільше кіберпорад, була Facebook з 17 838 422. Instagram компанії Meta зробив 11 430 007 повідомлень, а її служба обміну повідомленнями WhatsApp – 1 389 618. Google надіслав NCMEC 1 470 958 порад, Snapchat – 713 055, TikTok – 590 376, а Twitter – 597 087.