Discord verbiedt verspreiding van kindermisbruikbeelden gegenereerd door kunstmatige intelligentie

Het Discord-platform heeft de verspreiding verboden van materiaal over seksueel misbruik van kinderen (CSAM) dat is gegenereerd door kunstmatige intelligentie.

Wat bekend is

John Redgrave, Discord's Vice President of Trust and Security, zei dat het platform de regels over generatieve AI die nepcontent kan creëren uitbreidt. Het bijgewerkte beleid verbiedt met name het maken en verspreiden van CSAM-afbeeldingen, evenals het seksualiseren van kinderen in tekstchats.

Vorige maand meldde de Washington Post dat CSAM-afbeeldingen die door kunstmatige intelligentie zijn gegenereerd, zich de afgelopen maanden op internet hebben verspreid. Discord bleek zo'n platform te zijn.

Er werden verschillende integraties op het platform geplaatst, waardoor gebruikers direct in chats afbeeldingen konden maken. Het bleek dat gebruikers vaak afbeeldingen genereerden met seksuele inhoud.

Een vertegenwoordiger van Discord zei echter dat er al sinds het laatste kwartaal van 2021 wordt gewerkt aan het bijwerken van het beleid. Volgens hem zijn de nieuwe regels geen reactie op recente berichten.

Bron: NBC.