Нью-Йоркский чат-бот распространяет ложную информацию

Недавнее расследование, проведенное The Markup, раскрыло, что чат-бот, запущенный правительством Нью-Йорка для оказания информационной поддержки владельцам бизнеса, время от времени распространяет неточную или даже ложную информацию о городской политике.

Что известно

Согласно отчету, чат-бот, основанный на искусственном интеллекте от Microsoft Azure, предоставляет неправдивую информацию, иногда даже нарушает законодательство.

Публикация, проведенная вместе с местными некоммерческими изданиями Documented и The City, выявила ряд неточностей в ответах чат-бота на вопросы о жилищной политике, правах работников и других существенных темах.

Мэр Адамс представил этот чат-бот в октябре, как часть портала "My City", который введен в марте 2023 года как главный источник городских услуг. Однако оказалось, что это лишь пилотный проект, с предупреждением на сайте, что иногда информация может быть неточной или даже вредной.

Во время тестирования The Markup чат-бот предоставлял неверную информацию в ответ на различные вопросы о безналичных магазинах и правилах трудоустройства. Эксперты по жилищной политике характеризуют чат-бот как "опасно неточный" в худшем случае.

Представитель Управления технологий и инноваций Нью-Йорка, Лесли Браун, отметил, что чат-бот уже предоставил тысячам людей своевременные точные ответы. Однако признал, что их команда продолжит работать над обновлением системы для обеспечения лучшей поддержки малого бизнеса в городе.

Источник: The Markup