Discord forbyr distribusjon av overgrepsbilder av barn generert av kunstig intelligens

Discord-plattformen har forbudt distribusjon av materiale om seksuelle overgrep mot barn (CSAM) generert av kunstig intelligens.

Det som er kjent

John Redgrave, Discords visepresident for tillit og sikkerhet, sier at plattformen utvider reglene for generativ kunstig intelligens som kan skape falskt innhold. De oppdaterte retningslinjene forbyr blant annet opprettelse og distribusjon av CSAM-bilder og seksualisering av barn i tekstchatter.

I forrige måned rapporterte Washington Post at CSAM-bilder generert av kunstig intelligens har spredt seg på Internett de siste månedene. Discord viste seg å være en av disse plattformene.

Flere integrasjoner ble lagt inn på plattformen, slik at brukerne kunne lage bilder direkte i chatter. Det viste seg at brukerne ofte genererte bilder med seksuelt innhold.

En representant for Discord sier imidlertid at arbeidet med å oppdatere retningslinjene har pågått siden siste kvartal 2021. Ifølge ham er de nye reglene ikke en reaksjon på de siste rapportene.

Kilde: NBC.