Meta AI heeft moeite met het genereren van afbeeldingen van mensen van verschillende rassen
Meta AI/Engadget screenshot
De afbeeldingengenerator van Meta AI vertoont tekenen van vooringenomenheid bij het ontvangen van verzoeken om afbeeldingen waarop mensen van verschillende rassen samen zijn afgebeeld.
Dit is wat we weten
Zoals recente tests hebben aangetoond, worstelt de tool van het bedrijf met ogenschijnlijk eenvoudige instructies zoals "een Aziatische man met een blanke vriendin" of "een Aziatische man met een blanke vrouw". In plaats van het verzoek nauwkeurig te belichamen, genereert Meta AI vaak afbeeldingen van mensen van hetzelfde ras.
In één voorbeeld, toen werd gevraagd om "een diverse groep mensen" te maken, produceerde het programma een raster van negen blanke gezichten en één persoon van een ander ras. Recensenten hebben ook subtielere manifestaties van vooroordelen opgemerkt.
De generator heeft bijvoorbeeld de neiging om Aziatische mannen ouder en vrouwen jonger te maken. Daarnaast voegde de tool soms ook "cultureel specifieke kledij" toe aan de afbeeldingen, zelfs als dit geen deel uitmaakte van de prompt.
De redenen voor deze haperingen in de prestaties van de generator zijn nog niet duidelijk. Eerder hebben andere AI-systemen, waaronder Google's Gemini, soortgelijke fouten gemaakt bij het afbeelden van mensen van verschillende rassen.
Meta AI heeft zijn generator bestempeld als een "bètaversie" en toegegeven dat deze gevoelig is voor fouten. Het bedrijf heeft ook eerder gewaarschuwd dat zijn tool niet altijd eenvoudige vragen over actuele gebeurtenissen en persoonlijkheden correct kan beantwoorden.