Un chatbot de Nueva York difunde información falsa

Una reciente investigación de The Markup reveló que un chatbot lanzado por el gobierno de la ciudad de Nueva York para proporcionar apoyo informativo a los propietarios de negocios ha estado difundiendo información inexacta e incluso engañosa sobre las políticas de la ciudad.

Esto es lo que sabemos

Según el informe, el chatbot, impulsado por la inteligencia artificial de Microsoft Azure, proporciona información falsa, a veces incluso infringiendo la ley.

La publicación, realizada en colaboración con las publicaciones locales sin ánimo de lucro Documented y The City, encontró una serie de inexactitudes en las respuestas del chatbot a preguntas sobre política de vivienda, derechos de los empleados y otros temas significativos.

La alcaldesa Adams presentó el chatbot en octubre como parte del portal Mi Ciudad, que se introdujo en marzo de 2023 como principal fuente de servicios de la ciudad. Sin embargo, resultó que se trataba sólo de un proyecto piloto, con una advertencia en el sitio web de que a veces la información podía ser inexacta o incluso perjudicial.

Durante las pruebas de The Markup, el chatbot proporcionó información incorrecta en respuesta a varias preguntas, incluidas las relativas a los comercios sin efectivo y las normas de empleo. Expertos en política de vivienda describen el chatbot como "peligrosamente inexacto" en el peor de los casos.

Leslie Brown, portavoz de la Oficina de Tecnología e Innovación de la ciudad de Nueva York, afirmó que el chatbot ya ha proporcionado respuestas oportunas y precisas a miles de personas. Sin embargo, admitió que su equipo seguirá trabajando en la actualización del sistema para ofrecer un mejor apoyo a las pequeñas empresas de la ciudad.

Fuente: La Marca