Сотрудники Университета Мэриленда создали практичный «плащ-невидимку». Его использовали, чтобы проверить системы машинного обучения на наличие уязвимостей. Принт с размытым изображением обманывает модели. В итоге, обладатель свитера может скрыться от искусственного интеллекта.

Специальный паттерн для состязаний сгенерировали, используя большой набор обучающих изображений. Каждый раз, когда система обнаруживала человека, данные пересматривали, чтобы увидеть, насколько шаблон снижает оценку объекта. В конечном итоге, «состязательный» паттерн улучшили до такой степени, что он, в основном, препятствует распознаванию людей.

Состязательная атака (adversarial attack) — способ обмануть нейросеть и добиться некорректного результата от нее.

Узор на свитере немного похож на плохую картину импрессионистов, изображающую людей, покупающих тыквы на рынке. Во время экспериментов ученые легко обманули детектор YOLOv2 с помощью шаблона, обученного на наборе данных COCO с тщательно сформулированной целью.

COCO (англ. Common Objects in Context) — большой набор изображений. Состоит из 330 000 фотграфий и иллюстраций, на которых изображено больше 1,5 млн объектов.