Benutzer des Bing Image Creator haben ein Bild des Terroranschlags vom 11. September 2001 erstellt, in dem Mickey Mouse und Sponge Bob das Flugzeug steuern
Nutzer umgingen den Schutz des KI-Bildgenerators von Bing und erstellten Bilder von Zeichentrickfiguren, die die Zwillingstürme in New York angreifen. Microsoft hat versucht, solche Anfragen zu blockieren, scheint aber keinen Erfolg gehabt zu haben.
Was bekannt ist
Einige Nutzer haben Bing mit dem DALL-E 3-Modell verwendet, um Bilder von SpongeBob, Kirby, Mickey Mouse und anderen Figuren zu erzeugen, die die Zwillingstürme angreifen.
Microsoft erklärte, dass es an der Verbesserung seines Filtersystems arbeitet, um zu verhindern, dass bösartige Inhalte erstellt werden. Durch einfaches Ersetzen von Wörtern in einer Abfrage kann die Blockierung jedoch immer noch umgangen und ein Bild der Türme erzeugt werden.
Experten weisen darauf hin, dass die Moderationssysteme in KI-Generatoren fehlerhaft sind. Angreifer nutzen diese Schwachstelle aktiv aus, um bösartige Inhalte zu erstellen und zu verbreiten.
Die Unternehmen haben noch viel zu tun, um eine wirksame Bildfilterung zu etablieren, so die Experten.
Für diejenigen, die mehr wissen wollen
Quelle: 404 media