OpenAI utilise GPT-4 pour construire un système de modération de contenu basé sur l'intelligence artificielle

OpenAI estime que GPT-4 peut remplacer des dizaines de milliers de modérateurs tout en étant presque aussi précis et plus cohérent. Les développeurs affirment qu'ils utilisent déjà le modèle linguistique pour créer et affiner leurs propres politiques, l'étiquetage du contenu et la prise de décision.

Ce que nous savons

OpenAI a décrit trois avantages principaux par rapport aux approches traditionnelles de la modération de contenu.

Premièrement, selon l'entreprise, les humains interprètent les règles différemment, alors que les machines sont cohérentes dans leurs jugements. Les directives peuvent être longues et en constante évolution. De plus, les humains ont besoin de beaucoup de formation pour apprendre et s'adapter, alors que les modèles de langage peuvent mettre en œuvre instantanément de nouvelles règles.

Deuxièmement, le GPT-4 peut soi-disant aider à rédiger une nouvelle politique en quelques heures. Habituellement, le processus de rédaction, d'étiquetage, de collecte de commentaires et de finalisation de tels documents prend des semaines, voire des mois.

Troisièmement, OpenAI cite le bien-être des travailleurs qui sont constamment exposés à des contenus préjudiciables, tels que des vidéos d'abus d'enfants ou de torture.

Source : OpenAI