Одно из странных применений deepfakes — технологии искусственного интеллекта, используемой для манипулирования аудиовизуальным контентом, — это аудио-мошенничество. Хакеры используют машинное обучение, чтобы клонировать чей-то голос, а затем объединить этот клон голоса с методами социальной инженерии. Это дает мошенникам возможность убедить людей перевести средства туда, где им не место.

Такие схемы обмана были успешны в прошлом, но насколько хороши голосовые клоны, используемые в этих атаках? На самом деле мы никогда не слышали звукового мошенничества. До сих пор. Об этом сообщает The Verge.

Консалтинговая фирма по безопасности NISOS выпустила отчет, в котором анализируется одна из попыток телефонного мошенничества, и поделилась фрагментом аудио с Motherboard. На приведенном ниже клипе слышен голос, похожий на голос генерального директора компании, который просит сотрудника «немедленно оказать помощь в завершении срочной коммерческой сделки». Это фрагмент сообщения из голосовой почты, которую получи сотрудник технической фирмы. Название компании не раскрывается.

Запись голосового сообщения

Качество конечно не отличное. Даже под прикрытием плохого сигнала телефона слышно, что голос немного роботизированный. Но это сносно. И если бы вы были младшим сотрудником, волновавшимся после получения предположительно срочного сообщения от вашего начальника, вы, возможно, не слишком задумывались о качестве звука.

Атака в конечном итоге не увенчалась успехом, поскольку сотрудник, получивший голосовую почту, сразу подумал, что она подозрительна и отправил ее в юридический отдел фирмы. Но такие атаки будут более распространенными, так как глубокие поддельные инструменты становятся все более доступными.

Все, что вам нужно для создания голосового клона, — это доступ ко множеству записей вашей цели. Чем больше у вас данных и чем лучше качество звука, тем лучше будет итоговый голосовой клон. И для многих руководителей крупных фирм такие записи могут быть легко собраны из телефонных звонков, интервью и публичных речей. При достаточном количестве времени и данных аудио высочайшего качества станут гораздо более убедительны, чем в примере выше. Очевидно, что телефонные мошенники вышли на новый уровень и качество обмана будет только расти.

Ранее в этом году FTC предупредил о росте таких мошенников, но эксперты говорят, что есть один легкий способ победить их. Как сказал The Verge в январе Патрик Трейнор из Инженерного колледжа им. Герберта Вертхайма, все, что вам нужно сделать, это положить трубку и перезвонить человеку.

Повесьте трубку и перезвоните. Если это не очень, очень изощренная хакерская группа, скорее всего, это лучший способ выяснить, разговаривали ли вы с тем, кем, как вы думали, – Патрик Трейнор, Инженерный колледжа им. Герберта Вертхайма.