Китайские власти задержали мужчину в провинции Ганьсу на севере Китая за то, что он использовал ChatGPT для написания фейковых новостей. Подозреваемый хотел заработать на интернет-трафике. Это один из первых арестов за нарушение новых требований властей Китая о запрете применения ИИ для создания и распространения ложной информации.

Гражданин Китая обвиняется в использовании чат-бота OpenAI для создания новостных статей, описывающих крушение поезда со смертельным исходом, которые, по словам официальных лиц, были «ложной информацией». Несколько версий одной и той же истории с разными местами происшествия были одновременно опубликованы в 20 учетных записях на принадлежащей Baidu платформе для блогов Baijiahao.

Власти Ганьсу выяснили, что авторство статьи принадлежит компании подозреваемого, которая ведет несколько блогов. Согласно заявлению местной полиции, обвиняемый признался, что использовал ChatGPT для переписывания существующих вирусных новостных статей, чтобы обойти фильтры дублирующего контента. Затем он размещал фейковые новости в интернете, поскольку его друзья показали ему, как зарабатывать деньги с помощью интернет-трафика. Фальшивые статьи были просмотрены более 15 000 раз, прежде чем их удалили.

Китай — одна из немногих стран, где заблокирован доступ к ChatGPT, но жители могут обойти эти ограничения с помощью VPN-подключения. Гражданину Китая было предъявлено обвинение в «разжигании ссор и провоцировании нарушений общественного порядка» — универсальном правонарушении, которое применяется к обвиняемым в создании или распространении дезинформации в интернете. В таких случаях также могут вменять нарушение общественного порядка или создание беспорядков в общественных местах. Формулировка преступления расплывчата и подвергалась критике за то, что она нарушает свободу слова. Обвиняемым по такой статье может грозить от пяти до десяти лет лишения свободы.