Microsoft a bloqué les infobulles controversées dans Copilot suite à la plainte d'un ingénieur

Microsoft a restreint certains types de requêtes dans son outil d'IA générative Copilot après qu'un ingénieur de l'entreprise se soit plaint de la génération systématique d'images avec de la violence, du contenu sexuel et d'autres contenus inappropriés.

Voici ce que nous savons

Copilot bloque désormais ces messages lorsque vous tapez des termes tels que "pro choice", des noms de médicaments ou des mentions d'armes à feu entre les mains d'enfants. Le service prévient également que le fait d'enfreindre les règles à plusieurs reprises peut entraîner une restriction du compte.

Ces changements interviennent peu de temps après que Shane Jones, qui travaille chez Microsoft depuis six ans, a écrit une lettre à la Commission fédérale du commerce (FTC) des États-Unis pour se plaindre de l'absence de mesures de sécurité appropriées dans les produits de l'entreprise basés sur l'intelligence artificielle.

L'ingénieur testait Copilot Designer depuis décembre et a constaté que pour des requêtes contenant des termes relativement neutres, le système générait des images choquantes de démons dévorant des bébés et de personnages dans des scènes violentes.

Bien que les nouveaux filtres bloquent la plupart des messages controversés, les utilisateurs de Copilot peuvent toujours accéder à certains scénarios violents et générer des images de personnages protégés par des droits d'auteur.

Microsoft a déclaré qu'elle continuait à améliorer les contrôles sur les contenus générés par l'IA et à renforcer les filtres de sécurité pour éviter les abus.

L'entreprise a déjà été massivement critiquée pour l'apparition d'images explicites de célébrités générées à l'aide de Copilot Designer.

Approfondir :

• Un employé de Microsoft s'est plaint à la FTC de la sécurité du générateur d'IA Copilot Designer.
• Microsoft a tenté de faire taire la vulnérabilité de DALL-E, a déclaré un employé de la société.

Source : CNBC CNBC