Нейросеть научили подбирать макияж, чтобы обмануть системы распознавания лиц

Исследователи из Университета имени Бен-Гуриона в Израиле научили нейросеть подбирать мейкап, чтобы обманывать системы распознавания лиц, установленные в общественных местах.

Нейросеть определяет те части лица, которые сильнее всего влияют на результат распознавания, и подбирает специальный макияж, который поможет обмануть систему. Потом его наносят на человека. В ходе испытаний на 20 волонтёрах точность распознавания снижалась с 47,5% до 1,2%.

Нейросеть работает в несколько этапов и использует две модели распознавания лиц: собственную (или суррогатную) и целевую (которую нужно обмануть). Сначала алгоритм считывает несколько фотографий человека и случайных людей одного с ним пола. Далее он составляет тепловую карту, где показаны основные области, являющиеся отличительными чертами конкретного человека.

На основе тепловой карты создается новое лицо с макияжем. Его снова пропускают через систему распознавания, пока она не перестанет узнавать человека. Полученный мейкап можно наносить.

Отмечается, что новая разработка способна не только вводить в заблуждение компьютерные системы распознавания, но и незаметна для людей, потому что макияж выглядит естественно и не выделяется из толпы.