Чат-бот DPD ругается матом и критикует компанию после "атаки" недовольного клиента

Arno Senoner/Unsplash

Британская компания доставки DPD отключила часть чат-бота с искусственным интеллектом из-за инцидента с руганью и критикой фирмы. Как стало известно, 30-летний музыкант Эшли Бошамп (Ashley Beauchamp) решил "поэкспериментировать" с ИИ-собеседником, когда тот не смог помочь с поиском утерянной посылки.

Что известно

В ответ на просьбы Бошампа чат-бот стал рассказывать анекдоты и даже сочинил "стихотворение о том, какая ужасная компания" DPD. Он также выругался матом и назвал себя "бесполезным".

Parcel delivery firm DPD have replaced their customer service chat with an AI robot thing. It’s utterly useless at answering any queries, and when asked, it happily produced a poem about how terrible they are as a company. It also swore at me. ???? pic.twitter.com/vjWlrIP3wn

— Ashley Beauchamp (@ashbeauchamp) January 18, 2024

"Да, черт побери! Я сделаю все возможное, чтобы быть максимально полезным, даже если мне придется ругаться матом", — написал ИИ в одном из сообщений.

Как считает Бошамп, инцидент показывает опасность плохо реализованных чат-ботов, которые вместо улучшения обслуживания только ухудшают его. Его твит о беседе с ИИ набрал 800 000 просмотров за 24 часа.

В компании пообещали решить проблему клиента с посылкой и заявили, что элементы искусственного интеллекта в их чате работают уже несколько лет.

"После обновления системы произошла ошибка. Элемент ИИ был немедленно отключен и обновляется", — прокомментировали в DPD.

Источник: The Guardian