Le responsable de l'IA à la Maison Blanche a cité le "clonage vocal" comme un défi réglementaire majeur.
Growtika/Unsplash
Bruce Reed, chef de cabinet adjoint de la Maison-Blanche, a déclaré que la technologie de "clonage vocal" de l'IA constituait une préoccupation majeure pour les autorités de régulation.
Ce que nous savons
Il a déclaré que la société n'avait pas encore réalisé à quel point une fausse voix humaine parfaite pouvait affecter nos vies. Les gens cesseront de faire confiance aux appels s'ils ne sont pas sûrs que la voix est réelle, estime M. Reid.
Les escrocs utilisent déjà la technologie pour créer des escroqueries plus crédibles. Selon la FTC, les cas d'escrocs appelant des victimes au nom de proches en détresse se sont multipliés aux États-Unis.
Les analystes de la société de cybersécurité McAfee affirment qu'un échantillon de 3 à 4 secondes suffit pour créer une fausse voix convaincante.
Parallèlement, le maire de New York, Eric Adams, utilise l'IA pour appeler les habitants dans des langues qu'il ne parle pas. Selon lui, cela lui permet d'atteindre un plus grand nombre de personnes.
Toutefois, les experts estiment que cette pratique est plutôt trompeuse et qu'il est nécessaire d'établir des règles claires pour l'utilisation de ces technologies.
Il existe également déjà des plateformes de clonage de voix qui permettent de créer une fausse voix en quelques clics. Parmi elles, ElevenLabs, qui a fait l'objet de plusieurs cas de fraude peu après sa sortie de la version bêta.
Approfondir :
- Le maire de New York utilise l'IA pour effectuer des appels téléphoniques dans des langues qu'il ne connaît pas
- Le service de génération vocale ElevenLabs sort de sa phase bêta et prend en charge 30 langues.
Source : Business Insider Business Insider
