Il chatbot di DPD impreca e critica l'azienda dopo un "attacco" da parte di un cliente scontento

Arno Senoner/Unsplash.

L'azienda di consegne britannica DPD ha disattivato una parte del suo chatbot a intelligenza artificiale a causa di un incidente che ha comportato parolacce e critiche all'azienda. Si è appreso che il musicista trentenne Ashley Beauchamp ha deciso di "sperimentare" il chatbot di intelligenza artificiale quando questo non è riuscito a trovare un pacco smarrito.

Ecco cosa sappiamo

In risposta alle richieste di Beauchamp, il chatbot ha iniziato a raccontare barzellette e ha persino composto una "poesia su quanto sia terribile l'azienda DPD". Ha anche bestemmiato e si è definito "inutile".

L'azienda di consegna pacchi DPD ha sostituito la chat del proprio servizio clienti con un robot AI. È del tutto inutile rispondere a qualsiasi domanda e, quando gli è stato chiesto, ha pronunciato una poesia su quanto sia terribile la loro azienda. Mi ha anche imprecato contro. ???? pic.twitter.com/vjWlrIP3wn

- Ashley Beauchamp (@ashbeauchamp) 18 gennaio 2024

- AI ha scritto in uno dei post.

Secondo Beauchamp, l'incidente mostra i pericoli di chatbot mal implementati, che invece di migliorare il servizio lo peggiorano soltanto. Il suo tweet sulla conversazione con l'AI ha totalizzato 800.000 visualizzazioni in 24 ore.

L'azienda ha promesso di risolvere il problema del cliente con il pacco e ha affermato che gli elementi di intelligenza artificiale del suo chatbot funzionano da diversi anni.

"Ieri si è verificato un errore dopo un aggiornamento del sistema. L'elemento di intelligenza artificiale è stato immediatamente disattivato ed è attualmente in fase di aggiornamento" ha commentato DPD.

Fonte: The Guardian