Gli utenti di Bing Image Creator hanno generato un'immagine dell'attacco terroristico dell'11 settembre, con Topolino e Sponge Bob che pilotano l'aereo.
Gli utenti hanno aggirato le protezioni del generatore di immagini AI di Bing e hanno creato immagini di personaggi dei cartoni animati che attaccano le Torri Gemelle di New York. Microsoft ha cercato di bloccare tali richieste, ma sembra che non ci sia riuscita.
Ecco cosa sappiamo
Alcuni utenti hanno utilizzato Bing con il modello DALL-E 3 per generare immagini di SpongeBob, Kirby, Topolino e altri personaggi che attaccano le Torri Gemelle.
Microsoft ha dichiarato che sta lavorando per migliorare il suo sistema di filtraggio per impedire la creazione di contenuti dannosi. Tuttavia, la semplice sostituzione delle parole in una query può ancora aggirare il blocco e generare un'immagine delle torri.
Gli esperti notano che i sistemi di moderazione nei generatori di IA sono difettosi. Gli aggressori sfruttano attivamente questa vulnerabilità per creare e distribuire contenuti dannosi.
Secondo gli esperti, le aziende hanno ancora molto lavoro da fare per stabilire un efficace filtraggio delle immagini.
Approfondimento:
Fonte: 404 media
