Apple будет сканировать Iphone пользователей на предмет фотографий жестокого обращения с детьми
По данным Financial Times, Apple планирует сканировать фотографии, хранящиеся на iPhone и iCloud, на предмет жестокого обращения с детьми. Новая система может помочь правоохранительным органам в уголовных расследованиях, но может открыть дверь для увеличения требований законодательства и правительства к пользовательским данным.
Система, получившая название neuralMatch, «проактивно предупреждает группу экспертов-людей, если она считает, что обнаружены незаконные изображения, которые затем свяжутся с правоохранительными органами, для проверки контента», - сообщает Financial Times. Искусственный интеллект neuralMatch, который был обучен с использованием 200 000 изображений из Национального центра пропавших без вести и эксплуатируемых детей, сначала будет запущен в США. Фотографии будут хешированы и сравнены с базой данных известных изображений сексуального насилия над детьми.
«По словам людей, проинформированных о планах, каждой фотографии, загруженной в iCloud в США, будет присвоен «ваучер безопасности», указывающий, является ли это подозрительным или нет», - сообщает Financial Times. «После того, как определенное количество фотографий будет помечено как подозрительное, Apple позволит расшифровать все подозрительные фотографии и, если они окажутся незаконными, передать их в соответствующие органы».
Профессор Университета Джона Хопкинса и криптограф Мэтью Грин выразил обеспокоенность по поводу системы в Twitter в среду вечером. «Такой инструмент может быть благом для поиска детской порнографии в телефонах людей», - сказал Грин. «Но представьте, что он может сделать в руках авторитарного правительства?»
«Даже если вы считаете, что Apple не допустит злоупотребления этими инструментами, есть еще много поводов для беспокойства», - добавил он. «Эти системы полагаются на базу данных «проблемных медиа-хешей», которые вы, как потребитель, не можете просмотреть».
Apple уже проверяет файлы iCloud на известные изображения жестокого обращения с детьми, как и любой другой крупный поставщик облачных услуг. Но описанная здесь система пошла бы дальше, предоставляя централизованный доступ к локальному хранилищу. Также вполне возможно распространение системы и на другие преступления, кроме жестокого обращения с детьми, что вызывает особую обеспокоенность, учитывая обширный бизнес Apple в Китае.
Apple проинформировала об этом некоторых американских ученых на этой неделе и может рассказать больше о системе «уже на этой неделе» .
Компания ранее уже рекламировала средства защиты конфиденциальности, встроенные в свои устройства, и, как известно, выступила против ФБР, когда агентство хотело, чтобы Apple встроила бэкдор в iOS для доступа к iPhone, который использовался одним из стрелков во время атаки 2015 года в Сан-Бернардино.
По материалам: The Verge, Financial Times