Чат-бот компании Microsoft предоставлял ложную информацию о европейских выборах

Исследователи обнаружили, что чат-бот Bing (теперь Copilot) давал ошибочные сведения о недавних выборах в Швейцарии и Германии. Согласно отчету правозащитной группы AlgorithmWatch, почти треть ответов инструмента на вопросы о выборах содержала фактические ошибки.

Что известно

В частности, в ответах встречались неверные даты, результаты опросов, а также упоминались кандидаты, не участвовавшие в выборах. При этом Бинг часто ссылался на реальные источники, но приводимые им цифры расходились с первоначальными данными.

Исследователи отмечают, что защитные механизмы Бинга срабатывали неравномерно. В 30% случаев ответы были верными, а в 39% чат-бот отказывался отвечать. Тем не менее он допускал серьезные фактические ошибки, когда речь заходила о фактах, а не мнениях.

В Microsoft заверили, что принимают меры для улучшения точности ИИ-платформ, особенно в контексте выборов. Однако риск дезинформации со стороны чат-ботов вызывает растущую озабоченность.

Источник: The Verge