Повод для размышлений: зачем разработчики пытаются ввести в заблуждение системы распознавания лиц

Как обмануть систему распознавания лиц: всего лишь макияж!

Современные системы идентификации лиц, такие, как FindFace, довольно продвинуты. Искусственный интеллект "узнает" вас, даже если вы радикально измените внешность: например, наденете парик, очки и шляпу. Спрятаться не поможет даже маска на нижней части лица… И тем не менее, обвести алгоритмы вокруг пальца всё-таки можно, если применить особые методики.

 

Подмена личности

Команда учёных из Тель-Авива (Израиль) разработала специальную нейросеть StyleGAN Generative Adversarial Network (GAN), способную генерировать так называемые "мастер-лица". Эти синтезированные изображения имитируют множество личностей для систем распознавания. По словам разработчиков, всего девять искусственно сгенерированных "мастер-лиц" способны подменить "портреты" 40-60% всех живущих на земле людей.

Алгоритм оттестировали на трёх системах распознавания лиц высокой точности. Оказалось, что один-единственный сгенерированный образ имитирует 20% реальных лиц, данные о которых хранятся в открытой базе Массачусетского университета.

Технология создана для повышения точности идентификации личности. Но в принципе, если к ней получат доступ злоумышленники, то достаточно высока вероятность того, что им удастся ввести системы распознавания в заблуждение, идентифицировав одно лицо как другое. И, допустим, система покажет, что вы в определённое время находились в определённом месте, тогда как вас там и в помине не было.

Яркий камуфляж

Но здесь речь идёт о подмене и имитации. А как сделать, чтобы вас вообще не узнали? Над этим задумались исследователи из Университета имени Бен-Гуриона во главе с Ювалем Эловици и их коллеги из Японии.

Дело в том, что с помощью определённой маскировки камеры всё же можно обмануть. Но надо знать, как правильно её подбирать. Можно, предположим, использовать известные уязвимости сетевых алгоритмов, надев яркие очки или держа в руке "кислотную" картинку, что не позволяет камере увидеть человека в кадре. Но понятно, что такая маскировка уместна далеко не во всех случаях. В определённых ситуациях сам факт использования камуфляжа может привлечь к вам внимание.

Тонкости макияжа

Видеокамера в автобусе
Видеокамера в автобусе

Как известно, искусственный интеллект распознаёт личность по ключевым точкам лица. Нейросеть, созданная израильтянами и японцами, сначала путём использования тепловой карты выделяет те области, которые сильнее всего влияют на результат распознавания. Затем она в цифровом виде генерирует макияж, который накладывается именно на эти области. Остаётся только повторить его на реальной модели. Причём реальные люди, например, охрана, скорее всего и не заметят этого "камуфляжа". Как утверждают авторы статьи, опубликованной на arXiv.org, эксперименты с участием 20 добровольцев, проходивших мимо двух висящих камер, снимавших их под разным углом, продемонстрировали снижение точности распознавания с 47,5 до 1,2%. В случае же с контрольной группой, в которой применялось нанесение макияжа на лицо случайным образом, точность распознавания снижалась лишь до 33,73%.

Конечно, это ещё и повод для раздумий. Ведь такие методики вполне могут сознательно применять и правонарушители.

Автор Ирина Шлионская
Ирина Шлионская — автор Правды.Ру
Редактор Людмила Черткова
Людмила Черткова — журналист, обозреватель, редактор, корреспондент новостной службы Правды.Ру.