Studie: Språkmodeller fra kunstig intelligens viser implisitt rasisme mot afroamerikansk engelsk

Ifølge ny forskning har store AI-språkmodeller og OpenAIs versjon av ChatGPT skjulte rasistiske fordommer mot afroamerikansk engelsk.

Dette er hva vi vet

De identifiserte skjevhetene manifesterer seg ikke bare i dette aspektet, men også ved tildeling av jobber og vurdering av mistenktes skyld. Blant jurister, som vanligvis ikke viser åpenlys rasisme, ble det oppdaget visse implisitte fordommer som kom til syne takket være kunstig intelligens.

Forfatterne av studien understreker den potensielle risikoen ved å bruke slike AI-modeller på områder der de allerede brukes, for eksempel i næringslivet og jussen. De etterlyser mer forskning og en løsning på disse problemene for å forhindre ytterligere diskriminerende manifestasjoner i fremtiden.

Kilde: Gizmodo Gizmodo