Les utilisateurs de Bing Image Creator ont créé une image de l'attaque terroriste du 11 septembre, avec Mickey Mouse et Bob l'éponge aux commandes de l'avion.
Des utilisateurs ont contourné les protections du générateur d'images IA de Bing et ont créé des images de personnages de dessins animés attaquant les tours jumelles de New York. Microsoft a tenté de bloquer ces demandes, mais semble avoir échoué.
Voici ce que nous savons
Certains utilisateurs ont utilisé Bing avec le modèle DALL-E 3 pour générer des images de Bob l'éponge, Kirby, Mickey Mouse et d'autres personnages attaquant les tours jumelles.
Microsoft a déclaré qu'elle s'efforçait d'améliorer son système de filtrage afin d'empêcher la création de contenus malveillants. Toutefois, il suffit de remplacer des mots dans une requête pour contourner le blocage et générer une image des tours.
Les experts notent que les systèmes de modération des générateurs d'IA sont défectueux. Les attaquants exploitent activement cette vulnérabilité pour créer et diffuser des contenus malveillants.
Selon les experts, les entreprises ont encore beaucoup à faire pour mettre en place un filtrage efficace des images.
Approfondir :
Source : 404 media