YouTube va interdire les contenus utilisant l'IA qui imite de manière réaliste les voix d'enfants décédés

YouTube

YouTube interdira les vidéos qui utilisent l'intelligence artificielle pour imiter de manière réaliste les voix de mineurs décédés ou de victimes de violence, en décrivant les circonstances de leur mort. Les nouvelles restrictions entreront en vigueur le 16 janvier.

Ce que nous savons

Ces changements ont été motivés par l'apparition de vidéos dans lesquelles les auteurs utilisent la technologie de l'IA pour recréer l'apparence et la voix d'enfants décédés dans des crimes très médiatisés, afin de parler en leur nom de leur expérience de la violence et de la mort. Ces vidéos se sont concentrées sur les cas des jeunes filles britanniques disparues Madeleine McCann et James Bulger, ainsi que sur Gabriel Fernández, qui a été assassiné aux États-Unis.

Ces contenus seront désormais retirés de YouTube et leurs auteurs recevront une première sanction et une interdiction de publication d'une semaine. Après trois infractions, la chaîne sera bloquée.

YouTube a déjà introduit l'obligation de divulguer l'utilisation de la technologie de l'IA dans les vidéos où des personnes ou des voix synthétiques semblent particulièrement réalistes. Il est également interdit de montrer de la "violence réaliste" générée par l'IA, même si elle est correctement étiquetée.

L'absence d'étiquetage peut entraîner la suppression du contenu et même la suspension du programme d'affiliation de YouTube.

Source : Google