Дослідження: Мовні моделі штучного інтелекту проявляють прихований расизм щодо афроамериканської англійської

Згідно з новими дослідженнями, великі мовні моделі штучного інтелекту та версії ChatGPT від OpenAI, мають приховані расистські упередження стосовно афроамериканської англійської мови.

Що відомо

Виявлені упередження проявляються не лише у цьому аспекті, але й у призначенні на роботу та оцінці вини підозрюваних. Серед магістрів права, які зазвичай не проявляють відкритого расизму, помітили певні підтекстові упередження, які стали очевидними завдяки штучному інтелекту.

Автори дослідження підкреслюють потенційні ризики використання таких моделей AI у сферах, де вони вже застосовуються, таких як бізнес та право. Вони закликають до подальшого дослідження та вирішення цих проблем для запобігання подальших дискримінаційних проявів у майбутньому.

Джерело: Gizmodo