YouTube gaat inhoud verbieden met AI die de stemmen van dode kinderen realistisch nabootst

YouTube

YouTube gaat video's verbieden die gebruikmaken van kunstmatige intelligentie om de stemmen van overleden minderjarigen of slachtoffers van geweld realistisch na te bootsen en de omstandigheden van hun dood te beschrijven. De nieuwe beperkingen worden op 16 januari van kracht.

Dit is wat we weten

De reden voor de veranderingen was de opkomst van video's waarin de auteurs AI-technologie gebruiken om het uiterlijk en de stemmen na te bootsen van kinderen die zijn omgekomen bij geruchtmakende misdaden om namens hen te spreken over hun ervaringen met geweld en dood. Dergelijke video's hebben zich gericht op de zaken van de vermiste Britse meisjes Madeleine McCann en James Bulger, evenals Gabriel Fernández, die werd vermoord in de VS.

Dergelijke inhoud zal voortaan van YouTube worden verwijderd en de auteurs krijgen een eerste strike en een publicatieverbod van een week. Na drie overtredingen wordt het kanaal geblokkeerd.

YouTube heeft al eerder eisen ingevoerd om het gebruik van AI-technologie bekend te maken in video's waarin synthetische mensen of stemmen bijzonder realistisch klinken. Het is ook verboden om door AI gegenereerd "realistisch geweld" te tonen, zelfs als dit op het juiste etiket staat.

Gebrek aan etikettering kan leiden tot verwijdering van inhoud en zelfs schorsing uit het affiliateprogramma van YouTube.

Bron: Google