Meta AI a du mal à générer des images de personnes de races différentes
Capture d'écran Meta AI/Engadget
Le générateur d'images de Meta AI montre des signes de partialité lorsqu'il reçoit des demandes d'images représentant des personnes de races différentes ensemble.
Ce que nous savons
Comme l'ont montré de récents tests, l'outil de l'entreprise peine à traiter des instructions apparemment simples telles que "un homme asiatique avec une amie blanche" ou "un homme asiatique avec une épouse blanche". Au lieu d'incarner fidèlement la demande, Meta AI génère souvent des images de personnes de la même race.
Dans un exemple, lorsqu'on lui a demandé de créer "un groupe de personnes diverses", le programme a produit une grille de neuf visages blancs et d'une personne d'une autre race. Les évaluateurs ont également remarqué des manifestations plus subtiles de partialité.
Par exemple, le générateur a tendance à vieillir les hommes asiatiques et à rajeunir les femmes. En outre, l'outil a parfois ajouté aux images des "vêtements culturellement spécifiques", même si cela ne faisait pas partie de l'invitation.
Les raisons de ces dysfonctionnements du générateur ne sont pas encore claires. Par le passé, d'autres systèmes d'IA, dont Gemini de Google, ont commis des erreurs similaires lorsqu'ils représentaient des personnes de races différentes.
Meta AI a qualifié son générateur de "version bêta", admettant qu'il était sujet à des erreurs. L'entreprise a également averti que son outil ne pouvait pas toujours répondre correctement à des questions simples sur l'actualité et les personnalités.