Le chatbot de DPD jure et critique l'entreprise après une "attaque" d'un client mécontent
Arno Senoner/Unsplash.
La société de livraison britannique DPD a désactivé une partie de son chatbot d'intelligence artificielle à la suite d'un incident impliquant des jurons et des critiques à l'égard de l'entreprise. Ashley Beauchamp, musicien de 30 ans, aurait décidé d'"expérimenter" le chatbot d'intelligence artificielle lorsqu'il ne l'a pas aidé à retrouver un colis perdu.
Ce que nous savons
En réponse aux demandes de Beauchamp, le chatbot s'est mis à raconter des blagues et a même composé un "poème sur la terrible entreprise" qu'est DPD. Il a également proféré des jurons et s'est qualifié d'"inutile".
L'entreprise de livraison de colis DPD a remplacé le chatbot de son service clientèle par un robot d'IA. Ce robot est totalement incapable de répondre à la moindre question et, lorsqu'on le lui demande, il se contente de produire un poème sur l'horreur de l'entreprise. Il m'a également injurié. ? ??? pic.twitter.com/vjWlrIP3wn
- Ashley Beauchamp (@ashbeauchamp) 18 janvier 2024
- a écrit AI dans l'un des messages.
Selon Ashley Beauchamp, cet incident montre les dangers d'une mauvaise mise en œuvre des chatbots, qui, au lieu d'améliorer le service, ne font qu'empirer les choses. Le tweet de M. Beauchamp relatant sa conversation avec l'IA a été vu 800 000 fois en 24 heures.
L'entreprise a promis de résoudre le problème du client avec le colis et a déclaré que les éléments d'intelligence artificielle de son chatbot fonctionnaient depuis plusieurs années.
"Une erreur s'est produite après une mise à jour du système hier. L'élément d'intelligence artificielle a été immédiatement désactivé et fait actuellement l'objet d'une mise à jour", a commenté DPD.
Source : The Guardian : The Guardian
