Britse scholieren maken obscene AI-inhoud met afbeeldingen van andere kinderen

Element5 Digitaal/Unsplash

Britse schoolkinderen gebruiken kunstmatige intelligentie om onfatsoenlijke afbeeldingen van andere leerlingen te maken, zo heeft een panel van deskundigen op het gebied van kindermisbruik en technologie gewaarschuwd.

Dit is wat we weten

Emma Hardy van het UK Safer Internet Centre merkte op dat dergelijke afbeeldingen angstaanjagend realistisch zijn - hun kwaliteit is vergelijkbaar met professionele schoolfoto's. Dit brengt het risico met zich mee dat slachtoffers worden herkend en dat de inhoud vervolgens wordt verspreid onder vreemden op het internet.

"Het potentieel voor misbruik van deze technologie is angstaanjagend", zegt ze.

Volgens deskundigen moeten scholen dringend hun systemen voor het blokkeren van verboden inhoud verbeteren en voorlichting geven. Kinderen beseffen waarschijnlijk nog niet helemaal wat voor schade dergelijke AI-experimenten kunnen aanrichten. Maar rapporten die zijn opgedoken suggereren dat het probleem snel zou kunnen groeien.

Beelden van seksueel misbruik van kinderen, inclusief beelden die met AI zijn gemaakt, zijn verboden in het Verenigd Koninkrijk. Dit geldt ook voor cartoons of andere minder realistische afbeeldingen.

Bron: The Guardian