Discord interdit la diffusion d'images d'abus d'enfants générées par une intelligence artificielle

La plateforme Discord a interdit la diffusion de matériel pédopornographique généré par une intelligence artificielle.

Ce que l'on sait

John Redgrave, vice-président de Discord chargé de la confiance et de la sécurité, a déclaré que la plateforme élargissait les règles relatives à l'IA générative susceptible de créer du faux contenu. La politique mise à jour interdit notamment la création et la distribution d'images CSAM, ainsi que la sexualisation d'enfants dans les chats textuels.

Le mois dernier, le Washington Post a rapporté que des images CSAM générées par l'intelligence artificielle s'étaient répandues sur l'internet au cours des derniers mois. Discord s'est avéré être l'une de ces plateformes.

Plusieurs intégrations ont été placées sur la plateforme, permettant aux utilisateurs de créer des images directement dans les chats. Il s'est avéré que les utilisateurs généraient souvent des images à caractère sexuel.

Toutefois, un représentant de Discord a déclaré que le travail de mise à jour de la politique était en cours depuis le dernier trimestre 2021. Selon lui, les nouvelles règles ne sont pas une réaction à des rapports récents.

Source : NBC : NBC.