Google zal van apps in de Play Store eisen dat ze AI-inhoud beter modereren en een knop toevoegen voor klachten van gebruikers

Google gaat eisen dat applicaties in de Play Store een knop hebben om te klagen over aanstootgevende inhoud die is gegenereerd door kunstmatige intelligentie, evenals naleving van de regels voor moderatie van dergelijke inhoud.

Dit is wat we weten

Vanaf januari 2024 moeten apps met AI-inhoud de mogelijkheid voor gebruikers toevoegen om te klagen over aanstootgevende inhoud om in de app-winkel te blijven. Dit zal gevolgen hebben voor chatbots, afbeeldingengenerators en apps met AI-gegenereerde video's.

Ondertussen zullen apps die AI gebruiken om tekst samen te vatten en prestaties te verbeteren niet onder de nieuwe regels vallen.

Volgens Google kunnen voorbeelden van problematische inhoud die is gemaakt door kunstmatige intelligentie onder meer nep seksuele inhoud, frauduleuze video's van echte mensen en valse of misleidende verkiezingsinhoud zijn.

Het bedrijf erkende dat generatieve AI een snel groeiende categorie toepassingen is. Daarom zal het beleid voor dergelijke programma's regelmatig worden herzien, merkt Google op.

Bron: Google