New Yorker Chatbot verbreitet falsche Informationen

Eine kürzlich von The Markup durchgeführte Untersuchung hat ergeben, dass ein Chatbot, der von der New Yorker Stadtverwaltung eingeführt wurde, um Geschäftsinhabern Informationsunterstützung zu bieten, ungenaue und sogar irreführende Informationen über die Stadtpolitik verbreitet hat.

Was bekannt ist

Dem Bericht zufolge liefert der Chatbot, der auf der künstlichen Intelligenz von Microsoft Azure basiert, falsche Informationen und verstößt manchmal sogar gegen das Gesetz.

Die Veröffentlichung, die in Zusammenarbeit mit den lokalen gemeinnützigen Publikationen Documented und The City durchgeführt wurde, fand eine Reihe von Ungenauigkeiten in den Antworten des Chatbots auf Fragen zur Wohnungspolitik, zu Arbeitnehmerrechten und zu anderen wichtigen Themen.

Bürgermeister Adams stellte den Chatbot im Oktober als Teil des Portals My City vor, das im März 2023 als wichtigste Servicequelle der Stadt eingeführt wurde. Es stellte sich jedoch heraus, dass es sich dabei nur um ein Pilotprojekt handelte, mit einer Warnung auf der Website, dass die Informationen manchmal ungenau oder sogar schädlich sein könnten.

Während des Tests von The Markup gab der Chatbot auf verschiedene Fragen, darunter Fragen zu bargeldlosen Geschäften und Beschäftigungsregeln, falsche Informationen. Experten für Wohnungspolitik bezeichnen den Chatbot schlimmstenfalls als "gefährlich ungenau".

Leslie Brown, ein Sprecher des New York City Office of Technology and Innovation, sagte, dass der Chatbot bereits Tausenden von Menschen zeitnahe und genaue Antworten gegeben habe. Er räumte jedoch ein, dass sein Team weiterhin an der Aktualisierung des Systems arbeiten wird, um kleinen Unternehmen in der Stadt bessere Unterstützung zu bieten.

Quelle: The Markup