Экспертам удалось заставить систему распознавания лиц «увидеть» нереального человека

Специалисты компании McAfee продемонстрировали , как злоумышленники могут обмануть современные системы распознавания лиц, заставив их «увидеть» человека в том месте, где его на самом деле не было.

В ходе исследования специалисты осуществили атаку на систему распознавания лиц, подобную тем, что используются в аэропортах для проверки паспортов. С помощью машинного обучения они создали изображение лица, которое для человеческого глаза выглядело как один человек, но для системы распознавания лиц – как совсем другой. По словам специалистов, благодаря этому трюку злоумышленники, которым запрещено пользоваться авиатранспортом, могут без проблем купить билет на самолет.

Для обмана алгоритма исследователи использовали генеративно-состязательную сеть CycleGAN, способную трансформировать фотографии из одного стиля в другой. К примеру, она может сделать так, чтобы фотография бухты выглядела так, будто это картина художника Клода Моне, или фотография гор летом выглядела так, будто была сделана зимой.

Команда McAfee «скормила» CycleGAN 1,5 тыс. фотографий двух руководителей исследования с целью превратить изображение одного руководителя в другого. Сгенерированные CycleGAN фотографии вводились в систему распознавания лиц, чтобы проверить, сможет ли она узнать изображенного на них человека. Сгенерировав сотню изображений, CycleGAN в итоге выдала фотографию человека, который для невооруженного глаза выглядел как один руководитель, но распознавался системой, как другой.

Хотя исследование специалистов действительно вызывает опасения по поводу надежности систем распознавания лиц, есть несколько «но». Во-первых, исследователи не имели доступа к настоящей системе распознавания, использующейся в аэропортах, и вместо этого им пришлось воспользоваться алгоритмом с открытым исходным кодом. По их мнению, отсутствие доступа к настоящей системе является самой сложной проблемой из всех, с которыми придется столкнуться злоумышленникам, которые захотят обмануть алгоритм.

Во-вторых, на данный момент подобная атака требует много ресурсов и времени. Так, CycleGAN требует больших вычислительных мощностей.

По словам специалистов McAfee, целью их исследования была исключительно демонстрация уязвимостей систем на базе технологий искусственного интеллекта, доказывающая, что без реальных сотрудников в аэропортах пока еще рано обходиться.