Le chatbot de Microsoft a fourni de fausses informations sur les élections européennes

Des chercheurs ont découvert que le chatbot Bing (désormais Copilot) donnait des informations erronées sur les récentes élections suisses et allemandes. Selon un rapport du groupe de défense AlgorithmWatch, près d'un tiers des réponses de l'outil aux questions sur les élections contenaient des erreurs factuelles.

Voici ce que nous savons

Les réponses comprenaient notamment des dates incorrectes, des résultats de sondages et des références à des candidats qui n'avaient pas participé aux élections. Bing citait souvent des sources réelles, mais les chiffres qu'il citait étaient en contradiction avec les données originales.

Les chercheurs notent que les mécanismes de défense de Bing ont été déclenchés de manière inégale. Dans 30 % des cas, les réponses étaient correctes et dans 39 % des cas, le chatbot a refusé de répondre. Toutefois, il a commis de graves erreurs factuelles lorsqu'il s'agissait de faits plutôt que d'opinions.

Microsoft a assuré qu'elle prenait des mesures pour améliorer la précision des plateformes d'IA, en particulier dans le contexte des élections. Toutefois, le risque de désinformation par les chatbots est de plus en plus préoccupant.

Source : The Verge : The Verge