Meta's toezichtsraad zal gevallen onderzoeken waarbij AI wordt gebruikt om expliciete beelden te maken

De toezichtsraad van Meta heeft twee zaken in behandeling genomen over het gebruik van kunstmatige intelligentie om expliciete afbeeldingen van publieke figuren te maken. De raad wil de effectiviteit van Meta's moderatiebeleid en -praktijken met betrekking tot dergelijke inhoud evalueren.

Dit is wat we weten

Eén zaak betreft een Instagram-post met een door AI gegenereerde afbeelding van een naakte Indiase vrouw. De post was geplaatst door een account dat alleen dergelijke inhoud publiceert. Hoewel de post werd verwijderd nadat de gebruiker een klacht had ingediend, werd zijn beroep ook niet in behandeling genomen.

De tweede zaak heeft betrekking op een Facebook-groepspost die een "AI-gegenereerde naakte vrouw" toonde met een onderschrift dat verwees naar een "Amerikaans publiek figuur". De post werd verwijderd door een automatische moderatietool, maar de auteur ging in beroep tegen de beslissing.

De toezichtsraad heeft besloten beide gevallen te bekijken om te beoordelen of Meta vrouwen over de hele wereld op een eerlijke manier beschermt tegen dergelijke door AI gegenereerde inhoud. De raad vraagt twee weken lang om publiek commentaar en is van plan zijn beslissing en aanbevelingen voor het beleid van Meta binnenkort te publiceren.

De Oversight Board heeft al eerder invloed uitgeoefend op het beleid van het bedrijf met betrekking tot AI-gegenereerde inhoud, zoals na het incident met de Joe Biden-video. Als gevolg daarvan stemde Meta ermee in om meer van dergelijke AI-inhoud op zijn platforms te labelen.

Bron: Engadget