Un chatbot de Microsoft proporcionó información falsa sobre las elecciones europeas

Los investigadores han descubierto que el chatbot de Bing (ahora Copilot) daba información errónea sobre las recientes elecciones suizas y alemanas. Según un informe del grupo AlgorithmWatch, casi un tercio de las respuestas de la herramienta a preguntas sobre las elecciones contenían errores factuales.

Esto es lo que sabemos

En concreto, las respuestas incluían fechas incorrectas, resultados de encuestas y referencias a candidatos que no participaron en las elecciones. Bing citaba a menudo fuentes reales, pero las cifras que citaba no coincidían con los datos originales.

Los investigadores señalan que los mecanismos de defensa de Bing se activaron de forma desigual. En el 30% de los casos las respuestas eran correctas, y en el 39% el chatbot se negaba a contestar. Sin embargo, cometió graves errores fácticos cuando se trataba de hechos y no de opiniones.

Microsoft aseguró que está tomando medidas para mejorar la precisión de las plataformas de IA, especialmente en el contexto de las elecciones. Sin embargo, el riesgo de desinformación por parte de los chatbots es una preocupación creciente.

Fuente: The Verge