Meta AI har problemer med å generere bilder av mennesker av forskjellige raser
Skjermbilde fra Meta AI/Engadget
Meta AIs bildegenerator viser tegn på skjevhet når den mottar forespørsler om bilder som viser mennesker av ulike raser sammen.
Dette er hva vi vet
Som nylige tester har vist, sliter selskapets verktøy med å håndtere tilsynelatende enkle instruksjoner som "en asiatisk mann med en hvit venninne" eller "en asiatisk mann med en hvit kone". I stedet for å gjengi forespørselen nøyaktig, genererer Meta AI ofte bilder av personer av samme rase.
Da programmet ble bedt om å lage "en mangfoldig gruppe mennesker", produserte det for eksempel et rutenett med ni hvite ansikter og én person av en annen rase. Anmeldere har også lagt merke til mer subtile utslag av skjevhet.
For eksempel har generatoren en tendens til å gjøre asiatiske menn eldre og kvinner yngre. I tillegg har verktøyet noen ganger lagt til "kulturspesifikt antrekk" i bildene, selv om det ikke var en del av ledeteksten.
Det er foreløpig uklart hva som er årsaken til disse problemene. Tidligere har andre AI-systemer, inkludert Googles Gemini, gjort lignende feil når de har avbildet mennesker av ulike raser.
Meta AI har betegnet generatoren sin som en "betaversjon" og innrømmet at den er utsatt for feil. Selskapet har også tidligere advart om at verktøyet ikke alltid kan svare riktig på enkle spørsmål om aktuelle hendelser og personligheter.
