Исследование: Языковые модели искусственного интеллекта проявляют скрытый расизм в отношении афроамериканского английского

Согласно новым исследованиям, большие языковые модели искусственного интеллекта и версии ChatGPT от OpenAI, имеют скрытые расистские предубеждения в отношении афроамериканского английского языка.

Что известно

Выявленные предубеждения проявляются не только в этом аспекте, но и в назначении на работу и оценке вины подозреваемых. Среди магистров права, которые обычно не проявляют открытого расизма, заметили определенные подтекстовые предубеждения, ставшие очевидными благодаря искусственному интеллекту.

Авторы исследования подчеркивают потенциальные риски использования таких моделей AI в сферах, где они уже применяются, таких как бизнес и право. Они призывают к дальнейшему исследованию и решению этих проблем для предотвращения дальнейших дискриминационных проявлений в будущем.

Источник: Gizmodo