AI genererer klistremerker WhatsApp legger noen ganger til våpen til bilder av barn på Palestina-relaterte spørsmål

I messenger-tjenesten WhatsApp genererer en AI-klistremerkegenerator i noen tilfeller bilder av barn med våpen når man skriver inn Palestina-relaterte spørsmål.

Dette er hva vi vet

Tidligere begynte modellen å produsere klistremerker med en tendens til å skape upassende voldelige eller grove bilder, inkludert barnesoldater. Ifølge medierapporter har noen av selskapets ansatte flagget og forverret problemet med spørsmål knyttet til krigen i Israel.

Kevin McAlister, talsperson for Meta, sier at selskapet tar tak i problemet. Han legger til at selskapet vil fortsette å forbedre AI-funksjonene etter hvert som de utvikler seg og basert på tilbakemeldinger fra brukerne.

Meta har tidligere opplevd andre tilfeller av skjevhet i AI. Instagrams automatiske oversetter satte for eksempel inn ordet "terrorist" i arabiske tekster i profiler. Feilen førte til at en palestinsk mann ble arrestert i Israel i 2017.

Kilde: The Guardian: The Guardian