Onderzoek: Taalmodellen van kunstmatige intelligentie tonen impliciet racisme ten opzichte van Afro-Amerikaans Engels

Volgens nieuw onderzoek hebben grote AI-taalmodellen en OpenAI's versie van ChatGPT verborgen raciale vooroordelen tegen Afro-Amerikaans Engels.

Dit is wat we weten

De vastgestelde vooroordelen manifesteren zich niet alleen in dit aspect, maar ook bij de benoeming van banen en de beoordeling van de schuld van verdachten. Bij wetsdienaren, die meestal geen openlijk racisme vertonen, werden bepaalde impliciete vooroordelen opgemerkt die dankzij kunstmatige intelligentie aan het licht kwamen.

De auteurs van het onderzoek benadrukken de potentiële risico's van het gebruik van dergelijke AI-modellen op gebieden waar ze al worden toegepast, zoals het bedrijfsleven en de advocatuur. Ze roepen op tot verder onderzoek en het oplossen van deze problemen om verdere discriminerende uitingen in de toekomst te voorkomen.

Bron: Gizmodo