YouTube vil forby innhold som bruker kunstig intelligens som realistisk etterligner stemmene til døde barn.

YouTube vil forby videoer som bruker kunstig intelligens til å imitere stemmene til avdøde mindreårige eller voldsofre på en realistisk måte, og som beskriver omstendighetene rundt dødsfallet. De nye restriksjonene trer i kraft fra 16. januar.

Dette er hva vi vet

Bakgrunnen for endringene er fremveksten av videoer der opphavsmennene bruker AI-teknologi til å gjenskape utseendet og stemmene til barn som har dødd i høyprofilerte forbrytelser, for å snakke på deres vegne om deres opplevelser av vold og død. Slike videoer har fokusert på sakene til de savnede britiske jentene Madeleine McCann og James Bulger, samt Gabriel Fernández, som ble drept i USA.

Slikt innhold vil heretter bli fjernet fra YouTube, og opphavsmennene vil få en første streik og en ukes publiseringsforbud. Etter tre striker vil kanalen bli blokkert.

YouTube har tidligere innført krav om å opplyse om bruk av AI-teknologi i videoer der syntetiske mennesker eller stemmer høres spesielt realistiske ut. Det er også forbudt å vise AI-generert "realistisk vold", selv om det er merket på riktig måte.

Manglende merking kan føre til fjerning av innhold og til og med utestenging fra YouTubes partnerprogram.

Kilde: Google