Meta AI ha problemi a generare immagini di persone di razza diversa
Schermata di Meta AI/Engadget
Il generatore di immagini di Meta AI mostra segni di pregiudizio quando riceve richieste di immagini che ritraggono insieme persone di razza diversa.
Ecco cosa sappiamo
Come dimostrato da recenti test, lo strumento dell'azienda fatica a gestire istruzioni apparentemente semplici come "un uomo asiatico con un'amica bianca" o "un uomo asiatico con una moglie bianca". Invece di incarnare accuratamente la richiesta, Meta AI spesso genera immagini di persone della stessa razza.
In un esempio, quando è stato chiesto di creare "un gruppo di persone diverse", il programma ha prodotto una griglia di nove volti bianchi e una persona di razza diversa. I recensori hanno notato anche manifestazioni più sottili di pregiudizio.
Ad esempio, il generatore tende a rendere gli uomini asiatici più vecchi e le donne più giovani. Inoltre, a volte lo strumento ha aggiunto alle immagini un "abbigliamento culturalmente specifico" anche se non faceva parte della richiesta.
Le ragioni di questi difetti nelle prestazioni del generatore non sono ancora chiare. In precedenza, altri sistemi di intelligenza artificiale, tra cui Gemini di Google, hanno commesso errori simili nella rappresentazione di persone di razza diversa.
Meta AI ha etichettato il suo generatore come "versione beta", ammettendo che è soggetto a errori. L'azienda ha anche avvertito in precedenza che il suo strumento non è sempre in grado di rispondere correttamente a semplici domande su eventi e personaggi attuali.
