L'OpenAI a bloqué un chatbot qui imitait un candidat démocrate à l'élection présidentielle américaine.

Image générée par Bing/DALL-E 3

OpenAI a bloqué l'accès à un chatbot basé sur le modèle ChatGPT, qui a été entraîné à imiter les opinions et le style de discours du membre du Congrès Dean Phillips, qui se présente à l'investiture du Parti démocrate pour la présidence des États-Unis en 2024.

Ce que nous savons

OpenAI a indiqué qu'elle avait bloqué le chatbot Dean.bot en raison de violations des règles d'utilisation du ChatGPT. Ces règles interdisent les campagnes politiques au nom de personnes réelles sans leur consentement.

Dean.bot a été créé par We Deserve Better, un comité d'action politique (PAC) basé dans la Silicon Valley. Pour le développer, le PAC a fait appel à Delphi, une startup spécialisée dans le clonage de discours et d'opinions de célébrités à l'aide de l'IA.

Cependant, même la présence de Matt Krisiloff, cofondateur d'OpenAI, dans l'équipe de direction du PAC n'a pas permis d'éviter un blocage. Après que les médias ont révélé l'existence de Dean.bot, OpenAI a empêché les développeurs de Delphi d'accéder à ChatGPT.

Un représentant du quartier général du candidat à la présidence Phillips a déclaré qu'il n'approuvait pas la création d'un tel chatbot et qu'il ne prévoyait pas d'utiliser des technologies similaires dans le cadre de sa campagne électorale.

Néanmoins, les experts notent l'intérêt croissant pour l'utilisation des capacités de l'IA dans la sphère politique. Bien que de telles expériences soient pour l'instant interdites par les règles de l'OpenAI, la situation pourrait changer à l'avenir.

Source : The Register : The Register