Чат-бот компанії Microsoft надавав неправдиву інформацію про європейські вибори

Microsoft

Дослідники виявили, що чат-бот Bing (тепер Copilot) давав помилкові відомості про нещодавні вибори у Швейцарії та Німеччині. Згідно зі звітом правозахисної групи AlgorithmWatch, майже третина відповідей інструменту на запитання про вибори містила фактичні помилки.

Що відомо

Зокрема, у відповідях зустрічалися неправильні дати, результати опитувань, а також згадувалися кандидати, які не брали участі у виборах. При цьому Бінг часто посилався на реальні джерела, але цифри, які він наводив, розходилися з початковими даними.

Дослідники зазначають, що захисні механізми Бінга спрацьовували нерівномірно. У 30% випадків відповіді були правильними, а в 39% чат-бот відмовлявся відповідати. Проте він припускався серйозних фактичних помилок, коли мова заходила про факти, а не думки.

У Microsoft запевнили, що вживають заходів для поліпшення точності АІ-платформ, особливо в контексті виборів. Однак ризик дезінформації з боку чат-ботів викликає дедалі більшу заклопотаність.

Джерело: The Verge