Apple entfernt Apps mit künstlicher Intelligenz für Nacktbilder

Apple hat beschlossen, Apps, die künstliche Intelligenz zur Erstellung von Nacktbildern verwenden, aus dem App Store zu entfernen. Diese Entscheidung wurde als Reaktion auf die zunehmenden Bedenken hinsichtlich des Datenschutzes und der Ethik solcher Apps getroffen.

Was bekannt ist

Vor kurzem haben wir darüber berichtet, dass Huawei in einen Skandal verwickelt war, als eine App auf den neuen Pura 70-Flaggschiffen es ermöglichte, mithilfe von KI die Kleidung von Mädchen zu entfernen. Jetzt hat sich Apple in einer ähnlichen Situation wiedergefunden. Das Unternehmen hat Berichten zufolge drei Apps aus dem App Store entfernt, die sich selbst als "Kunstgeneratoren" anpriesen, aber auf Instagram und Erotikseiten damit warben, dass sie "jedes Mädchen kostenlos entkleiden" könnten. Einige dieser Apps boten eine KI-"Entkleidungs"-Funktion an, während andere einen Gesichtstausch bei Erwachsenenbildern durchführten. Die Bilder zeigen zwar nicht die tatsächliche Nacktheit des Mädchens, aber die App kann Bilder erzeugen, die zur Belästigung, Erpressung und Verletzung der Privatsphäre verwendet werden können.

404 Media berichtet, dass Apple die Apps erst entfernt hat, nachdem es Links zu den Apps und deren Werbung erhalten hat. Zuvor war das Unternehmen nicht in der Lage, solche Apps zu finden. Es gibt jedoch Berichte, wonach die Apps ab 2022 verfügbar waren und bereits auf Erotikseiten für die "Entkleidungs"-Funktion warben. Es wird berichtet, dass diese Apps im App Store verbleiben könnten, wenn sie die Werbung auf 18+ Seiten entfernen.

Dieser Vorfall kommt für Apple zu einem ungünstigen Zeitpunkt, da sich das Unternehmen auf seine Entwicklerkonferenz WWDC 2024 im Juni vorbereitet, auf der das Unternehmen wichtige Ankündigungen zur künstlichen Intelligenz für iOS 18 und Siri machen wird. Gerade jetzt braucht Apple einen guten Ruf für seine Zuverlässigkeit und diese Situation könnte ihm schaden.

Quelle: 404 Media