Californische scholieren verspreidden naaktfoto's van klasgenoten gegenereerd door AI
tommao wang/Unsplash.
De administratie van Beverly Vista High School in Californië onderzoekt een incident waarbij leerlingen kunstmatige intelligentie technologie gebruikten om naaktfoto's van klasgenoten te maken en te verspreiden.
Dit is wat we weten
De foto's toonden naar verluidt de gezichten van echte klasgenoten op naakte lichamen die waren gemodelleerd door een neuraal netwerk. De afbeeldingen werden via messengers verspreid door een groep studenten.
"Het is heel eng dat mensen zich niet veilig voelen om naar school te komen. Ze zijn bang dat mensen expliciete foto's van hen laten zien", zei een van de studenten, die niet met naam genoemd wilde worden.
Het is onduidelijk hoeveel leerlingen getroffen zijn door de verspreiding van de nepfoto's.
Het Beverly Hills School District zei "geschokt" te zijn door het misbruik van AI-technologie. Schuldige leerlingen kunnen disciplinaire maatregelen tegemoet zien. Kinderen van wie de afbeeldingen zijn gemanipuleerd, worden ook begeleid.
"Ouders, werk alsjeblieft met ons samen en spreek met je kinderen over dit gevaarlijke gedrag. Leerlingen, praat alsjeblieft met je vrienden over hoe verontrustend en ongepast deze manipulatie van beelden is", aldus het district.
Volgens de hoofdinspecteur van het schooldistrict is de veiligheidswetgeving achtergebleven bij de vooruitgang van de technologie. Hij drong er bij de wetgevers op aan om de regelgeving op dit gebied te verbeteren.
Sommige ouders spraken de hoop uit dat Beverly Vista High School snel actie zou ondernemen.
"Daar moeten enorme consequenties aan verbonden worden", zei een ouder.
Ga dieper:
Bron: NBC
