Китайское правительство выпустило новый свод правил по использованию виртуальной реальности и созданию дипфейков. Использование этих технологий без явного обозначения будет считаться уголовным преступлением, сообщает Reuters со ссылкой на Управление по вопросам киберпространства КНР.

За последние годы технологии подмены лиц достигли впечатляющих результатов, позволяя правдоподобно заменить лицо на видео практически кому угодно, не требуя при этом специализированных навыков. Не последнюю роль в привлечении внимания общественности к такому использованию нейросетей сыграл пользователь Reddit, зарегистрированный под ником deepfakes, который в 2017 году начал подменять лица актрис в порнороликах — сегодня дипфейками называют не только переделанные порноролики, но и вообще любые видео с подменой лиц.

Поскольку для тренировки нейросетей нужно большое количество свободно доступных изображений человека, в первую очередь создатели дипфейков обратили внимание на знаменитостей: актеров и политиков. Результаты работы таких алгоритмов становится все сложнее распознать, и при этом технология подмены лиц, очевидно, может использоваться не только как шутка, но и для создания правдоподобно выглядящих роликов, которые могут использоваться во вред и иметь самые разные последствия в зависимости от конкретного применения.

Пока что напрямую дипфейки мало где запрещали, или запрещали, но с оговорками. Так, недавно Калифорния запретила предвыборные дифпейки, но запрет касается только роликов с политиками и длится в период 60 дней перед выборами.

Теперь стало известно, что в Китае фактически запретят использование виртуальной реальности и дипфейков. Управление по вопросам киберпространства КНР требует при производстве и распространении подобных материалов в явном виде указывать использование соответствующих технологий, а невыполнение этих требований будет считаться уголовным преступлением.

«Новые технологии, такие как дипфейки, прижились в видео- и аудиоиндустрии и существуют риск того, что такой контент может навредить обществу и интересам отдельных людей, а также способен создать политические риски и негативно повлиять на национальную безопасность и стабильность в обществе», — передает позицию Управления по вопросам киберпространства КНР издание South China Morning Post.

Новые правила касаются как производителей контента, так и владельцев онлайн-площадок, на которых будет распространяться видео или аудио, и вступают в силу уже 1 января 2020 года.

От редактора. Во-первых, непонятно, каким образом у регулятора на одну полку стали дипфейки и VR — подобные странности нередко возникают, когда чиновники пытаются регулировать сферу, в которой не до конца разбираются. Во-вторых, гарантированное выявление дипфейков — крайне сложная задача, поэтому непонятно, каким образом будет выполняться проверка требований регулятора. Возможно, на практике все ограничится появлением дисклеймера, накладываемого на видеоролики, генерируемые приложениями типа Zao.

Кроме отдельных стран и регионов на борьбу с дипфейками переключились и крупные IT-компании. Например, свой датасет для борьбы с дипфейками уже собрала Google, а Facebook и Microsoft в дополнение к датасету объявили о начале конкурса для разработчиков.

Автор: Николай Воронцов