Нейросеть научили создавать «универсальные» лица, чтобы обмануть системы идентификации

Израильские ученые разработали нейросеть StyleGAN Generative Adversarial Network (GAN), которая способна генерировать «мастер-лица» (по аналогии с мастер-ключами). Каждое из изображений может имитировать большое количество личностей для систем распознавания.

Как уверяют авторы исследования, 9 синтезированных лиц способны заменить изображения, как минимум, 40% людей из открытой базы. В ходе эксперимента ученые тестировали нейросеть StyleGAN Generative Adversarial Network (GAN) на трёх эффективных системах распознавания лиц. Исследования проводились совместно с научными учреждениями Тель-Авива.

В ходе работы ученые выяснили, что единственное сгенерированное лицо способно имитировать 20% лиц из открытой базы данных Массачусетского университета. Как известно, именно она часто используется для тестирования систем распознавания личности.

Последовательные группы «главных лиц», полученные в ходе исследования с использованием различных методов поиска покрытия, включая LM-MA-ES. Среднее заданное покрытие (MSC, показатель точности) указано под каждым изображением.

Метод израильских ученых позволяет применять открытые источники в качестве «образцов» для «подмены» подавляющего большинства лиц, не используя закрытые базы данных. В разных условиях учёным удавалось добиться «положительной» идентификации более от 40% до 60% лиц с помощью всего 9 сгенерированных фотографий.

Рабочий процесс израильской системы, в котором генератор StyleGAN используется для итеративного поиска «главных лиц». Источник: https://arxiv.org/pdf/2108.01077.pdf

Система использует т. н. «эволюционный алгоритм» и «нейропредиктор», оценивающий вероятность того, насколько текущий «кандидат» будет лучше лиц, сгенерированных во время предыдущих попыток.