Автор оригинала: Thomas Smith. Прошлым летом, когда миллионы людей вышли на улицы, протестуя против полицейского произвола после убийства Джорджа Флойда, государственные учреждения, не теряя времени, обратились к системам распознавания лиц для отслеживания участников протестов. В то же время власти стали призывать носить маски для сдерживания эпидемии Covid-19, и многие обнаружили в этой мере свои преимущества.

Масштабное исследование, опубликованное Национальным институтом стандартов и технологий в июле 2020 года, установило, что при помощи маски можно обмануть некоторые системы распознавания лиц почти в половине случаев – это позволяло предположить, что протестующие в масках получают некоторую защиту от массовой слежки.

Это навело меня на мысль: как наиболее эффективно использовать маски и прочие повседневные аксессуары, чтобы запутать системы распознавания лиц? Я решил это выяснить.

По сведениям Gothamist, департамент полиции Нью Йорка использовал для преследования активиста движения Black Lives Matter Дэррика Ингрэма системы распознавания лиц (возможно, в сочетании с фотографиями из социальных сетей). Поступали данные о нескольких ошибочных арестах, в особенности темнокожих людей, которые были произведены в результате использования технологий. Я сам тестировал системы распознавания лиц вроде Clearview AI и мог лично убедиться в их мощности. Из-за широкого применения распознавания лиц для ареста участников протестов стали звучать призывы запретить подобные технологии, и по стране уже пошла волна законодательной деятельности по этому вопросу.

Многие активисты и участники протестов не захотели дожидаться законов, регулирующих применение систем распознавания лиц, и взяли дело в свои собственные руки, придумывая находчивые способы вызвать сбой в работе технологий. В ход пошли и анти-надзорная косметика, и особые кастомизированные стикеры, которые выглядят как QR-коды, и фильтры для фотографий, которые выступают в роли цифровой «маски». К сожалению, многие из этих способов не работают. А другие, например, анти-надзорная косметика, требуют больших временных затрат и сильно бросаются в глаза. Маски, напротив, легко снимаются и надеваются, к тому же их можно носить на людях, не привлекая к себе лишнего внимания.

Исследование Национального института стандартов и технологий, посвящённое влиянию масок на работу систем распознавания, было всеохватным – оно включало 89 платформ. Но имелись в нём и недочёты. Так, в экспериментах не использовались настоящие маски – исследователи накладывали на фотографии цифровые маски, а потом загружали отредактированные изображения для тестирования различных систем. Также выяснилось, что успешность распознавания сильно варьирует. Некоторые системы удавалось обмануть в 50% случаев, а другие – только в 5%. Я организовал серию экспериментов своими силами, чтобы понять, какие типы масок лучше всего морочат голову системам распознавания лиц.