Искусственный интеллект создаёт новую диктатуру
Искусственный интеллект (ИИ) постепенно встаёт на службу силовиков и полиции в разных странах мира, угрожая воплотить в жизнь тоталитарную мечту о глобальном контроле над личностью. Речь идёт об использовании систем идентификации по внешности.
Эти технологии всего за несколько лет с момента своего появления проникли повсюду: в смартфоны, автомобили, соцсети и банки. Программа фокусируется на характерных признаках внешности, отмечая около 100 «опорных черт», среди которых расстояние между глазами, размер бровей, носа, подбородка. При этом, в отличие от дактилоскопии, распознавание лиц можно выполнить на расстоянии без согласия объекта.
Кроме того, ИИ способен не только определить внешность, но и эмоции, которые человек испытывает, его реакцию на внешние раздражители, искренность поведения. А если лица не видно, программа определит личность по походке, анализируя положение тела в каждой фазе шага.
Лидером в вопросе развития этих технологий выступает Китай. В 2017 году Си Цзиньпин заявил о намерении построить в стране экономику будущего, основанную на искусственном интеллекте и технологии больших данных. Компаниям, занимающимся разработкой высокотехнологичных продуктов, были обещаны субсидии и госзаказы.
При этом главным козырем китайских инженеров в сфере идентификации личности стала колоссальная база данных, которой охотно делятся власти.
Камеры стали появляться на улицах Китая в 2005 году. К 2015 году они были установлены во всём Пекине. Изначально видео с камер просматривали только полицейские, но в 2015 году власти заявили о подключении к устройствам системы автоматического распознавания лиц. К 2020 году количество интеллектуальных камер планируют довести до 626 млн. Согласно планам правительства «Поднебесной», система «Зоркий глаз» покроет людные места во всех городах страны и сможет идентифицировать человека в течение трёх секунд с точностью до 88%.
По данным полиции Китая, в сентябре 2017 года благодаря камерам удалось обнаружить 25 разыскиваемых граждан на пивном фестивале, а весной 2018 — подозреваемого в толпе на поп-концерте. В том же году полицейским стали раздавать портативные очки, способные сканировать и распознавать лица, которые видно хотя бы на 70%. За первые недели использования гаджеты помогли задержать десятки злоумышленников.
Кроме того, технология помогает регулировать дорожное движение. На перекрестках, где были установлены интеллектуальные камеры, количество нарушений снизилось в 10 раз.
При этом распознавание лиц используется не только полицейскими. В Китае с помощью лица можно осуществить перевод денег, оформить заказ в ресторане или снять деньги с банковской карты. В 2017 году в аэропортах можно зарегистрироваться на рейс без документов — посадочным талоном является внешность пассажира. В жилых комплексах ИИ регулирует пропускной режим, а также замки в квартирах.
Особый контроль установлен за китайскими подростками. Например, в учебную форму встраивают чипы, которые фиксируют вход и выход ребёнка из школы. А производители компьютерных игр используют камеры различных устройство для того, чтобы ограничить время пребывания детей в виртуальном мире.
Однако отдельной проблемой для международного сообщества стала разработка Пекином с 2014 года уникальной системы социального кредитования, которая базируется на видеонаблюдении, однако способна собирать данные не только о перемещении, но и о любой офлайн- и онлайн-активности. ИИ сопоставляет разнородную информацию и оценивает гражданина. Эта оценка напрямую влияет на уровень жизни: «отличников» власти всячески поощряют, а «двоечники» попадают под действие многочисленных санкций.
Пекин при помощи данной системы, внедрение которой планируется завершить в 2020 год, намерен создать «гармоничное социалистическое общество».
При этом китайские инженеры пошли дальше и разработали систему, которая, фактически, способна не допускать преступлений. Программа, созданная стартапом Cloud Walk из Гуанчжоу, анализирует степень подозрительности поведения в общественных местах, после чего отправляет правоохранителям сигнал обратить внимание на определённых граждан. В качестве подозреваемых рассматриваются и посетители магазинов оружия, клубов с игровыми автоматами и злачных мест.
На Западе лидером по внедрению системы распознавания лиц являются США. Однако на улицах страны размещены всего 50 млн «умных» камер. В Европе эти программы используют эпизодически, в частности, для контроля миграции.
Однако «интеллектуальная» слежка далека от идеала. Зачастую работа алгоритмов содержит ошибки. Кроме того, существует реальная угроза кражи данных, накапливаемых при видеонаблюдении. В частности, речь идёт о deepfake-видео: реалистичных роликах, созданных с использованием внешности реальных людей.