RealorRender : l'outil allemand qui traque les deepfakes pixel par pixel

Un outil de détection de deepfakes développé en Allemagne vient d'être présenté au public, à quelques semaines de l'entrée en vigueur des obligations de transparence imposées par l'Union européenne. Conçu par le Fraunhofer IOSB en collaboration avec le Bureau fédéral allemand de la sécurité informatique (BSI), RealorRender affiche une précision de 85 à 91 %. Ce n'est pas anodin : à partir du 2 août 2026, l'Article 50 de l'AI Act oblige les plateformes à détecter et à signaler les contenus générés par IA.

Le principe : piéger l'IA avec elle-même

RealorRender combine deux méthodes d'analyse. La première s'appuie sur un apprentissage profond classique : l'algorithme compare l'image à des signatures connues de générateurs IA. La seconde est plus originale — elle mesure ce qu'on appelle l'« erreur de reconstruction ». Le système tente de recréer l'image suspecte avec son propre modèle génératif. Si le résultat colle trop précisément à l'original, c'est un signal fort que l'image n'a pas été capturée par un appareil photo, mais fabriquée par un algorithme.

L'explication, pas seulement le verdict

La majorité des détecteurs actuels fonctionnent comme des boîtes noires : ils rendent un jugement sans justification. RealorRender adopte une approche d'IA explicable (XAI), ce qui change tout. Au lieu d'un simple résultat, on obtient une carte thermique qui met en évidence les zones, textures et artefacts jugés suspects — des incohérences d'éclairage microscopiques ou des motifs géométriques trop réguliers, caractéristiques des modèles génératifs.

Cette transparence n'est pas qu'un atout technique. La CNIL étend désormais ses audits aux systèmes de détection eux-mêmes, pour éviter les faux positifs discriminants. L'approche XAI de RealorRender répond précisément à ce critère de « contestabilité » inscrit dans le RGPD : si une décision automatisée peut être contestée, elle doit pouvoir être expliquée. L'Article 50 Compliance Guide précise que les codes de pratiques sur le marquage et l'explicabilité sont en cours de finalisation depuis juin 2026.

Un enjeu concret, des chiffres qui font froid dans le dos

Les deepfakes ne sont pas une menace abstraite. Le gouvernement britannique a recensé plus de 276 000 deepfakes pornographiques sur un seul site en 2023, dont 96 % ciblaient des femmes sans leur consentement. Des services de « déshabillage » par IA ont cumulé 24 millions de visites en septembre de la même année. Face à cette réalité, RealorRender se positionne comme un outil de forensique numérique à destination des plateformes et des autorités.

Pour l'instant, aucune date de disponibilité commerciale n'a été annoncée, et aucun intégrateur français — qu'il s'agisse d'OVHcloud ou de partenaires Mistral — n'a confirmé d'adoption. Les détecteurs propriétaires de Google et Microsoft ont signé des codes de bonne pratique, mais leur mise en œuvre reste opaque. RealorRender, lui, a au moins l'avantage de montrer son travail.