Нью-Йоркський чат-бот розповсюджує неправдиву інформацію

Недавнє розслідування, проведене The Markup, розкрило, що чат-бот, запущений урядом Нью-Йорка для надання інформаційної підтримки власникам бізнесу, час від часу поширює неточну та навіть дезінформаційну інформацію щодо міської політики.

Що відомо

Згідно зі звітом, чат-бот, що базується на штучному інтелекті від Microsoft Azure, надає неправдиву інформацію, іноді навіть порушує законодавство.

Публікація, проведена разом з місцевими некомерційними виданнями Documented і The City, виявила низку неточностей у відповідях чат-бота на запитання про житлову політику, права працівників та інші суттєві теми.

Мер Адамс представив цей чат-бот у жовтні, як частину порталу "My City", який введений у березні 2023 року як головне джерело міських послуг. Однак виявилося, що це лише пілотний проєкт, з попередженням на сайті, що іноді інформація може бути неточною або навіть шкідливою.

Під час тестування The Markup чат-бот надавав невірну інформацію у відповідь на різні запитання, питання про безготівкові магазини та правила працевлаштування. Експерти з житлової політики характеризують чат-бот як "небезпечно неточний" у найгіршому випадку.

Представник Управління технологій та інновацій Нью-Йорка, Леслі Браун, наголосив, що чат-бот вже надав тисячам людей своєчасні точні відповіді. Однак визнав, що їхня команда продовжить працювати над оновленням системи для забезпечення кращої підтримки малого бізнесу у місті.

Джерело: The Markup