Étude : Les modèles linguistiques d'intelligence artificielle montrent un racisme implicite à l'égard de l'anglais afro-américain

Selon une nouvelle étude, les grands modèles de langage de l'IA et la version du ChatGPT d'OpenAI cachent des préjugés raciaux à l'encontre de l'anglais afro-américain.

Voici ce que nous savons

Les préjugés identifiés se manifestent non seulement dans cet aspect, mais aussi dans la nomination des emplois et l'évaluation de la culpabilité des suspects. Parmi les maîtres du droit, qui ne font généralement pas preuve d'un racisme manifeste, certains préjugés implicites ont été constatés et sont devenus apparents grâce à l'intelligence artificielle.

Les auteurs de l'étude soulignent les risques potentiels liés à l'utilisation de ces modèles d'intelligence artificielle dans des domaines où ils sont déjà appliqués, tels que les affaires et le droit. Ils appellent à la poursuite des recherches et à la résolution de ces questions afin de prévenir d'autres manifestations discriminatoires à l'avenir.

Source : Gizmodo Gizmodo