Estudio: Los modelos lingüísticos de inteligencia artificial muestran un racismo implícito hacia el inglés afroamericano

Según una nueva investigación, los grandes modelos lingüísticos de IA y la versión de ChatGPT de OpenAI tienen prejuicios raciales ocultos contra el inglés afroamericano.

Esto es lo que sabemos

Los sesgos identificados se manifiestan no sólo en este aspecto, sino también en la designación de puestos de trabajo y en la evaluación de la culpabilidad de los sospechosos. Entre los maestros de la ley, que no suelen mostrar un racismo manifiesto, se advirtieron ciertos sesgos implícitos que se hicieron patentes gracias a la inteligencia artificial.

Los autores del estudio subrayan los riesgos potenciales del uso de estos modelos de IA en ámbitos en los que ya se están aplicando, como la empresa y el derecho. Piden que se sigan investigando y resolviendo estas cuestiones para evitar nuevas manifestaciones discriminatorias en el futuro.

Fuente: Gizmodo