Нові правила ЄС введуть обов'язкове сканування месенджерів на предмет жорстокого поводження з дітьми

Романов Роман
Нові правила ЄС введуть обов'язкове сканування месенджерів на предмет жорстокого поводження з дітьми

Європейська комісія запропонувала нову суперечливу норму, яка вимагатиме від додатків чату, таких як WhatsApp і Facebook Messenger, вибірково сканувати приватні повідомлення користувачів на наявність матеріалів сексуального насильства над дітьми (CSAM) і поведінки «догляду».

Пропозиція схожа на плани, які Apple обговорювала минулого року, але, за словами критиків, набагато більш агресивна. Після того, як на початку цього тижня витік проект постанови, експерти з конфіденційності найрішуче засудили його.

«Цей документ — найжахливіша річ, яку я коли-небудь бачив», — написав у Twitter професор криптографії Метью Грін.

«В ньому описується найскладніша техніка масового спостереження, яка коли-небудь була розгорнута за межами Китаю та СРСР. Це не перебільшення».

Ян Пенфрат з групи захисту цифрових прав European Digital Rights (EDRi) повторив цю занепокоєння, сказавши: «Це виглядає як ганебний загальний закон про #нагляд, який абсолютно не підходить для будь-якої вільної демократії». (Порівняння PDF-файлів показує, що відмінності між проектом, що злили у вільний доступ, та остаточною пропозицією є лише косметичними.)

Регламент встановить ряд нових зобов’язань для «постачальників онлайн-послуг» — широкої категорії, яка включає магазини додатків, хостингові компанії та будь-якого постачальника «послуг міжособистісного зв’язку».

Найбільш жорсткі зобов’язання будуть стосуватися комунікаційних служб, таких як WhatsApp, Signal і Facebook Messenger.

images (8)-2.jpeg (8 KB)

Якщо компанія в цій групі отримає «розпорядження про виявлення» від ЄС, вона повинна буде сканувати вибрані повідомлення користувачів, щоб знайти відомі матеріали сексуального насильства над дітьми, а також раніше небачені CSAM та будь-які повідомлення, які можуть являти собою «догляд» або «запрошення дітей».

Ці останні дві категорії контенту вимагатимуть використання інструментів машинного зору та систем штучного інтелекту для аналізу контексту зображень і текстових повідомлень. (Навпаки, минулорічна пропозиція Apple сканувати повідомлення, щоб знайти матеріали про жорстоке поводження з дітьми, шукала б лише відомі приклади CSAM, що обмежує можливості помилок.

Після широкого розголосу про те, що ця пропозиція зашкодить конфіденційності користувачів, Apple видалила посилання на цю функцію зі свого сайту та на невизначений термін відклала її розгортання.)

«Накази про виявлення» видаватимуться окремими країнами ЄС, і Комісія стверджує, що вони будуть «цілеспрямованими та визначеними», щоб зменшити порушення конфіденційності.

Однак регламент не чітко визначає, як ці накази будуть спрямовані — чи будуть вони обмежуватися окремими особами та групами, наприклад, чи застосовуватися до набагато ширших категорій.

Наприклад, чи будуть вони застосовуватися до набагато ширших категорій.

Критики регламенту стверджують, що такі накази про виявлення можуть бути використані в широкій та інвазивній формі для націлювання на велику кількість користувачів.

«Пропозиція створює можливість для [замовлень] бути цільовими, але не вимагає цього», — сказала Елла Якубовська, радник з питань політики в EDRi.

«Це повністю залишає двері відкритими для набагато більш узагальненого спостереження». Експерти з конфіденційності кажуть, що ця пропозиція також може серйозно підірвати (і, можливо, навіть зламати) наскрізне шифрування.

Пропозиція прямо не закликає припинити використання зашифрованих послуг, але експерти кажуть, що вимога від компаній встановлювати в свої системи будь-яке програмне забезпечення, яке ЄС вважає необхідним для виявлення CSAM, зробить надійне наскрізне шифрування фактично неможливим.

Через вплив ЄС на цифрову політику в інших частинах світу ці самі заходи можуть також поширитися по всьому світу, в тому числі в авторитарних державах.

«Немає жодного способу зробити те, до чого спрямована пропозиція ЄС, крім того, щоб уряди масово читали та сканували повідомлення користувачів», – сказав Джо Маллін, старший політичний аналітик групи Electronic Frontier Foundation з цифрових прав.

«Якщо це стане законом, ця пропозиція стане катастрофою для конфіденційності користувачів не лише в ЄС, а й у всьому світі».

Окрім проблем із шифруванням, рішення Комісії націлити на раніше невідомі приклади CSAM, а також поведінку «догляду» також піддавалося критиці.

Для пошуку такого вмісту знадобиться використання алгоритмічних сканерів, які, за словами комісії, збережуть анонімність цільових користувачів. Але експерти стверджують, що такі інструменти схильні до помилок і призведуть до того, що уряд буде контролювати невинних людей.

«Був галас, коли Apple запропонувала щось подібне для пошуку відомого вмісту [CSAM].

Але якщо ви введете неоднозначність і ці контекстно-залежні сценарії, в яких інструменти, засновані на штучному інтелекті, які, як відомо, ненадійні, проблеми будуть набагато більшими», – сказала Якубовська з EDRi.

«Вам потрібно лише подивитися, наскільки хитрі фільтри спаму. Вони були в нашій електронній пошті вже 20 років, але скільки з нас все ще отримує спам у нашій поштовій скриньці та пропускає законні листи?

Це дійсно свідчить про обмеженість цих технологій». Якубовська додала: «Вся ця пропозиція базується на обов’язковості технічно нездійсненних — якщо не неможливих — речей».

За матеріалами: The Verge