Bing Image Creator-brukere har laget et bilde av terrorangrepet 11. september, med Mikke Mus og Svampebob som piloter i flyet.
Brukere har omgått beskyttelsen i Bings AI-bildegenerator og laget bilder av tegneseriefigurer som angriper tvillingtårnene i New York. Microsoft har forsøkt å blokkere slike forespørsler, men ser ikke ut til å ha lykkes.
Dette er hva vi vet
Noen brukere brukte Bing med DALL-E 3-modellen til å generere bilder av Svampebob, Kirby, Mikke Mus og andre figurer som angriper tvillingtårnene.
Microsoft sier at de jobber med å forbedre filtreringssystemet for å forhindre at skadelig innhold blir opprettet. Det er imidlertid fortsatt mulig å omgå blokkeringen ved å bytte ut ord i en spørring og generere et bilde av tårnene.
Eksperter påpeker at modereringssystemene i AI-generatorer er mangelfulle. Angripere utnytter denne sårbarheten aktivt for å skape og distribuere skadelig innhold.
Ifølge ekspertene har selskapene fortsatt mye arbeid å gjøre for å etablere effektiv bildefiltrering.
Gå dypere:
Kilde: 404 media