Il chatbot di New York diffonde informazioni false

Una recente indagine di The Markup ha rivelato che un chatbot lanciato dal governo della città di New York per fornire supporto informativo ai proprietari di aziende ha diffuso informazioni imprecise e persino fuorvianti sulle politiche cittadine.

Ecco cosa sappiamo

Secondo il rapporto, il chatbot, alimentato dall'intelligenza artificiale di Microsoft Azure, fornisce informazioni false, a volte addirittura violando la legge.

La pubblicazione, condotta in collaborazione con le testate no-profit locali Documented e The City, ha rilevato una serie di imprecisioni nelle risposte del chatbot a domande sulla politica abitativa, sui diritti dei dipendenti e su altri argomenti importanti.

Il sindaco Adams ha presentato il chatbot a ottobre come parte del portale My City, introdotto nel marzo 2023 come principale fonte di servizi della città. Tuttavia, si è scoperto che si trattava solo di un progetto pilota, con un avvertimento sul sito web che a volte le informazioni potevano essere imprecise o addirittura dannose.

Durante i test di The Markup, il chatbot ha fornito informazioni errate in risposta a diverse domande, tra cui quelle sui negozi senza contanti e sulle regole di occupazione. Gli esperti di politiche abitative descrivono il chatbot come "pericolosamente impreciso" nel peggiore dei casi.

Leslie Brown, portavoce dell'Ufficio per la tecnologia e l'innovazione della città di New York, ha dichiarato che il chatbot ha già fornito a migliaia di persone risposte puntuali e precise. Tuttavia, ha ammesso che il loro team continuerà a lavorare sull'aggiornamento del sistema per fornire un supporto migliore alle piccole imprese della città.

Fonte: Il Markup