Gebruikers van Bing Image Creator hebben een afbeelding gegenereerd van de terroristische aanval op 9/11, met Mickey Mouse en Sponge Bob als piloten van het vliegtuig.
Gebruikers omzeilden beveiligingen in de AI-afbeeldingsgenerator van Bing en creëerden afbeeldingen van stripfiguren die de Twin Towers in New York aanvallen. Microsoft heeft geprobeerd om dergelijke verzoeken te blokkeren, maar het lijkt erop dat dit niet is gelukt.
Dit is wat we weten
Sommige gebruikers gebruikten Bing met het DALL-E 3 model om afbeeldingen te genereren van SpongeBob, Kirby, Mickey Mouse en andere personages die de Twin Towers aanvallen.
Microsoft zei dat het werkt aan het verbeteren van het filtersysteem om te voorkomen dat schadelijke inhoud wordt gemaakt. Het simpelweg vervangen van woorden in een zoekopdracht kan echter nog steeds de blokkering omzeilen en een afbeelding van de torens genereren.
Experts merken op dat moderatiesystemen in AI-generatoren gebrekkig zijn. Aanvallers maken actief gebruik van deze kwetsbaarheid om schadelijke inhoud te maken en te verspreiden.
Bedrijven hebben nog veel werk te doen om effectieve beeldfiltering op te zetten, aldus experts.
Ga dieper:
Bron: 404 media
