Il chatbot di Microsoft ha fornito informazioni false sulle elezioni europee

I ricercatori hanno scoperto che il chatbot di Bing (ora Copilot) forniva informazioni errate sulle recenti elezioni in Svizzera e Germania. Secondo un rapporto del gruppo di difesa AlgorithmWatch, quasi un terzo delle risposte dello strumento alle domande sulle elezioni conteneva errori di fatto.

Ecco cosa sappiamo

In particolare, le risposte includevano date, risultati di sondaggi e riferimenti a candidati che non avevano partecipato alle elezioni. Bing citava spesso fonti reali, ma i numeri che citava erano in contrasto con i dati originali.

I ricercatori notano che i meccanismi di difesa di Bing si sono attivati in modo disomogeneo. Nel 30% dei casi le risposte erano corrette e nel 39% il chatbot si è rifiutato di rispondere. Tuttavia, ha commesso gravi errori fattuali quando si trattava di fatti piuttosto che di opinioni.

Microsoft ha assicurato che sta prendendo provvedimenti per migliorare l'accuratezza delle piattaforme di intelligenza artificiale, soprattutto nel contesto delle elezioni. Tuttavia, il rischio di disinformazione da parte dei chatbot è una preoccupazione crescente.

Fonte: The Verge