Reality Defender a levé 15 millions de dollars pour développer des outils de découverte de contenu par l'IA

Image générée par l'intelligence artificielle de Bing

Reality Defender, une startup qui développe des solutions de détection de contrefaçons basées sur l'intelligence artificielle, a levé 15 millions de dollars dans le cadre d'un tour de table. Les fonds seront utilisés pour agrandir l'équipe et améliorer les modèles.

Ce que nous savons

Reality Defender propose une API et une application web permettant d'analyser des vidéos, des textes, des sons et des images pour y déceler des signes de génération d'intelligence artificielle.

Selon le cofondateur Ben Colman, leurs modèles propriétaires formés sur des données exclusives atteignent une précision de détection supérieure à celle de leurs concurrents. En se concentrant sur la recherche, l'entreprise vise à devancer l'émergence de nouvelles méthodes de génération de contenu afin de les détecter à temps.

La startup prévoit de lancer un outil pour mettre en évidence les bribes de texte générées par l'IA et détecter les fausses voix profondes en temps réel.

Reality Defender a été fondée en 2021 et était à l'origine une organisation à but non lucratif. Elle a attiré des investissements en raison du problème croissant des "dipfakes" et de la demande pour leur détection.

Retour de flamme

En 2022, on estime que le nombre de "dipfakes" vidéo et audio sur l'internet a été multiplié par 3 à 8 en raison de la commercialisation d'outils d'IA générative.

Auparavant, la création de dipfakes était un processus coûteux et fastidieux. Aujourd'hui, elle est devenue abordable grâce à des services comme ElevenLabs.

Les plateformes d'IA introduisent le filtrage des contenus, mais celui-ci n'est pas toujours efficace. M. Coleman estime que le danger réside dans la prolifération des faux sur les médias sociaux.

Source : TechCrunch TechCrunch