L'IA pour générer des autocollants WhatsApp ajoute parfois des armes aux images d'enfants sur des requêtes liées à la Palestine

Dans la messagerie WhatsApp, un générateur d'autocollants IA génère dans certains cas des images d'enfants armés lorsque des invites liées à la Palestine sont saisies.

Ce que nous savons

Dans le passé, le modèle a commencé à produire des autocollants ayant tendance à créer des images inappropriées, violentes ou grossières, y compris des enfants soldats. Selon les médias, certains employés de la société ont signalé le problème et l'ont aggravé en saisissant des messages liés à la guerre en Israël.

Kevin McAlister, porte-parole de Meta, a déclaré que l'entreprise s'attaquait au problème. Il a ajouté que l'entreprise continuerait à améliorer les fonctions d'intelligence artificielle au fur et à mesure de leur développement et en fonction des commentaires des utilisateurs.

Meta a déjà connu d'autres cas de partialité de l'IA. Par exemple, le traducteur automatique d'Instagram a inséré le mot "terroriste" dans les textes arabes des profils. Cette erreur a conduit à l'arrestation d'un Palestinien en Israël en 2017.

Source : The Guardian