Согласно новому отчету University College London (UCL), фальшивый аудио- или видеоконтент — наиболее тревожная часть использования искусственного интеллекта с точки зрения его потенциального применения в преступлении или терроризме. Исследование, опубликованное в журнале Crime Science, выявило 20 способов использования ИИ для содействия преступности в течение следующих 15 лет.

Они были ранжированы в порядке опасности — исходя из вреда, который они могут причинить, потенциальной возможности получения криминальной прибыли или выгоды. А также того, насколько легко мошеннические схемы будут выполняться и насколько трудно будет их остановить.

Эксперты уверяют, что фальшивый контент будет трудно обнаружить и остановить и что его использование может преследовать различные цели — от дискредитации публичной фигуры до мошеннических схем с целью выманивая средств, например, выдавая себя за сына или дочь супружеской пары во время видеозвонка. Такое содержание, по их словам, может привести к широкому распространению недоверия к аудио- и визуальным данным, что само по себе будет вредом для общества.

Помимо поддельного контента, ученые предоставили топ из пяти других преступлений с использованием ИИ, которые были признаны «вызывающими серьезную обеспокоенность». Речь идет о возможности использования транспортных средств без водителя в качестве оружия, помощи при создании более удачных фишинговых сообщений. А также о нарушении работы систем, контролируемых ИИ, с целью поиска и сбора информации в интернете крупномасштабного шантажа. Кроме того, экспертов беспокоит возможность создания поддельных новостей с помощью систем ИИ.

По мере расширения возможностей технологий на основе ИИ растет и их потенциал для криминальной эксплуатации. Чтобы адекватно подготовиться к возможным угрозам ИИ, нам необходимо определить, какими могут быть эти угрозы и как они могут повлиять на нашу жизнь, – профессор Льюис Гриффин (UCL Computer Science), старший автор отчета.

Исследователи собрали 20 преступлений с использованием ИИ из научных статей, новостей и текущих событий, а также из художественной литературы и популярной культуры. Затем они собрали 31 человека с опытом в области искусственного интеллекта для двухдневных обсуждений, чтобы оценить серьезность потенциальных преступлений. Участники были привлечены из научных кругов, частного сектора, полиции, правительства и органов государственной безопасности.

Преступления, которые вызывали среднюю обеспокоенность, включали продажу предметов и услуг, а также проверка безопасности и целевая реклама. Преступления, вызывающие низкую обеспокоенность, включали в себя грабителей-маленьких роботов, которые проникали на объект с помощью почтовых ящиков или дверки для кошки.