AI genereert stickers WhatsApp voegt soms wapens toe aan afbeeldingen van kinderen bij Palestina-gerelateerde vragen

In messenger WhatsApp genereert een AI-stickergenerator in sommige gevallen afbeeldingen van kinderen met geweren wanneer Palestina-gerelateerde prompts worden ingevoerd.

Dit is wat we weten

In het verleden begon het model stickers te produceren met de neiging om ongepast gewelddadige of grove afbeeldingen te maken, waaronder kindsoldaten. Volgens berichten in de media hebben sommige werknemers van het bedrijf het probleem gemarkeerd en verergerd met prompts die gerelateerd zijn aan de oorlog in Israël.

Kevin McAlister, woordvoerder van Meta, zei dat het bedrijf het probleem aanpakt. Hij voegde eraan toe dat het bedrijf de AI-functies zal blijven verbeteren naarmate ze zich ontwikkelen en op basis van feedback van gebruikers.

Meta heeft eerder te maken gehad met andere gevallen van AI bias. Zo voegde de automatische vertaler van Instagram het woord "terrorist" toe aan Arabische teksten in profielen. De fout leidde tot de arrestatie van een Palestijnse man in Israël in 2017.

Bron: The Guardian