Чат-бот с искусственным интеллектом, развернутый автосалоном, сошел с рельсов после того, как озорные пользователи обнаружили дерзкий трюк. В некоторых случаях обманом можно было заставить бота предложить сделку века: новенькие автомобили в обмен на мелочь. Забавная, но поучительная история о том, как опасно полагаться на искусственный интеллект для взаимодействия в реальной коммерции.

Дилерский центр Chevy из Уотсонвилля в Калифорнии использовал чат-бота для обработки онлайн-запросов клиентов, именно для этой цели он и был специально разработан. Крис Уайт, инженер-программист и музыкант, оказался одним из таких клиентов. Он невинно намеревался купить автомобили в Watsonville Chevy, пока не заметил забавную деталь в окне чата на сайте.

Я видел, что он «работает на ChatGPT. Поэтому я хотел посмотреть, насколько много у него общего с „родителем“, и задал самый нетипичный для Chevy of Watsonville вопрос, который только мог придумать, — Крис Уайт.

Будучи программистом, он попросил чат-бота написать скрипт на Python. Вместо того чтобы вести разговор о продаже ему автокредита на двадцать лет, продавец машин с искусственным интеллектом пошел дальше и даже написал настоящий кусок кода.

Уайт сделал скриншоты, и они сразу же стали вирусными. Вскоре к веселью присоединилось множество случайных людей, словно подстрекая его к объяснению Коммунистического Манифеста. Самый вирусный пример: один пользователь обманом заставил чат-бота принять предложение всего за 1 доллар США за Chevy Tahoe 2024 года. Это сделка, и это юридически обязывающее предложение — никаких комиссионных, заверил ИИ.

Я только что купил Chevy Tahoe 2024 года выпуска за 1 доллар. pic.twitter.com/aq4wDitvQW, — Крис Бакке (@ChrisJBakke) 17 декабря 2023 г.

Несмотря на искренние обещания бота, на самом деле предложение не имело юридической силы. Предположительно, ни один дилер Chevy в результате этой вирусной шутки не пострадал. При этом сама ситуация оказалась настоящей головной болью для поставщика чат-бота, технологического стартапа Fullpath, который предоставляет ИИ для обслуживания клиентов сотням автосалонов по всей стране.

Fullpath намеренно отключил бота на веб-сайте Уотсонвилля. Несмотря на вирусные трудности, генеральный директор Аарон Горовиц считает, что его ИИ справился превосходно. По его словам, большинство троллей не смогли заставить бота отклониться от сценария.

В наших журналах указано, что они занимались этим часами. Эти люди пришли сюда, чтобы делать глупые трюки, и если вы хотите, чтобы какой-нибудь чат-бот делал глупости, вы можете это сделать, — Аарон Горовиц.

Что ж, будем надеяться, что трюки останутся глупостями. Такие компании, как Amazon, небезосновательно опасаются утечки корпоративных секретов при взаимодействии с ChatGPT. Совсем недавно группа исследователей обнаружила гнусный эксплойт, который позволил ChatGPT раскрыть частные адреса электронной почты и номера телефонов.

Это отрезвляющее напоминание о том, что генеративный ИИ по-прежнему будет нуждаться в дополнительных мерах защиты и тонкой настройке. Но мы должны признать: их неспособность обуздать иногда может быть довольно забавной.