Adobe verkauft mit künstlicher Intelligenz generierte Bilder des Krieges zwischen Israel und Hamas, die in Nachrichtenberichten als echt ausgegeben werden

Adobe Stock

Adobe verkauft über seine Bilddatenbank Fotos des Konflikts zwischen Israel und der Hamas, die von künstlicher Intelligenz generiert wurden. Einige Medien illustrieren damit jedoch echte Nachrichtenberichte über den Konflikt.

Was bekannt ist

Einige Nachrichtenagenturen verwenden solche Bilder in ihren Artikeln, ohne sie als Fälschungen zu kennzeichnen. Die Bilder in Adobes Bibliothek sind als KI-generiert gekennzeichnet, aber diese Information geht verloren, wenn sie anderswo veröffentlicht werden.

In der Adobe Stock-Bibliothek gibt es eine ganze Kategorie mit der Bezeichnung "KI-generierter Konflikt zwischen Israel und Palästina". Wie sich herausstellt, verwenden zahlreiche Internetartikel solche Fotos und geben sie als echt aus.

Experten haben wiederholt davor gewarnt, dass künstliche Intelligenz aktiv zur Erzeugung von Fehlinformationen eingesetzt wird. Es wird immer schwieriger, dieses Problem zu bekämpfen, da immer mehr realistisch aussehende synthetische Inhalte online erscheinen.

Eine Reihe von Unternehmen versucht, die Kennzeichnung von KI-generierten Inhalten einzuführen, aber solche Systeme werden in der Praxis noch nicht häufig eingesetzt. Sie erfordern die Koordination vieler Akteure: soziale Netzwerke, Medien, Anwendungsentwickler und die Schöpfer der generativen KI selbst.

Ein Sprecher von Adobe sagte, das Unternehmen setze sich für die Bekämpfung von Fehlinformationen und die Entwicklung von Werkzeugen ein, mit denen sich die Authentizität von Inhalten, einschließlich KI-generierter Inhalte, nachweisen lässt.

Quelle: PetaPixel