Google verlangt von Apps im Play Store eine bessere Moderation von KI-Inhalten und fügt eine Schaltfläche für Nutzerbeschwerden hinzu

Google wird ab sofort verlangen, dass Anwendungen im Play Store über eine Schaltfläche verfügen, mit der man sich über anstößige Inhalte beschweren kann, die von künstlicher Intelligenz generiert werden, sowie über die Einhaltung der Regeln für die Moderation solcher Inhalte.

Was bekannt ist

Ab Januar 2024 müssen Apps mit KI-Inhalten die Möglichkeit bieten, dass sich Nutzer über anstößige Inhalte beschweren können, um im App-Shop zu bleiben. Dies wird Chatbots, Bildgeneratoren und Apps mit KI-generierten Videos betreffen.

Apps, die KI nutzen, um Texte zusammenzufassen und die Leistung zu verbessern, fallen hingegen nicht unter die neuen Regeln.

Laut Google könnten Beispiele für problematische Inhalte, die von künstlicher Intelligenz erstellt werden, gefälschte sexuelle Inhalte, betrügerische Videos von echten Menschen und falsche oder irreführende Wahlinhalte sein.

Das Unternehmen hat erkannt, dass generative KI eine schnell wachsende Kategorie von Anwendungen ist. Daher werden die Richtlinien für solche Programme regelmäßig überprüft, so Google.

Quelle: Google