De politie van Beverly Hills onderzoekt de verspreiding van valse intieme foto's van schoolkinderen, gegenereerd door AI

Via: Bohdan Kaminskyi | 29.02.2024, 21:07

BVMS

De politie van Beverly Hills (Californië, VS) heeft een strafrechtelijk onderzoek ingesteld naar een incident op Beverly Vista High School, waarbij leerlingen met behulp van kunstmatige intelligentie tools naaktfoto's van klasgenoten hebben gemaakt en massaal hebben verspreid.

Dit is wat we weten

Volgens plaatsvervangend stadsmanager Keith Sterling werden op de foto's naakte lichamen afgebeeld met de gezichten van echte schoolkinderen erop. De foto's werden actief verspreid via messenger en sociale media.

Schoolfunctionarissen werden vorige week op de hoogte gesteld van de "door AI gegenereerde naaktfoto's", aldus de brief van Sterling.

Ondanks de snelle reactie van de autoriteiten veroorzaakte het incident een schok en ontzetting onder leerlingen en ouders. Velen van hen vertelden verslaggevers dat ze nu bang zijn om naar school te gaan.

Volgens cyberbeveiligingsdeskundige Mary Anne Franks kan dergelijk materiaal worden aangemerkt als intimidatie en stalking, en in sommige gevallen als kinderpornografie.

"We hebben federale en andere verboden tegen bepaalde afbeeldingen van gezichten of andere lichaamsdelen van kinderen die vermengd zijn met andere dingen", legt Franks uit.

De expert voegde er echter aan toe dat afbeeldingen pas illegaal zijn als ze seksueel expliciet gedrag vertonen. Dit is al een hoger criterium dan alleen naaktheid.

Maar ondanks de beschikbare juridische middelen, riep Franks op tot een sterkere regulering van het veld van generatieve AI om misbruik van dergelijke technologieën te voorkomen, wat mogelijk ernstige schade kan toebrengen aan minderjarigen.

Ga dieper:

Bron: NBC News