ElevenLabs заблокировала аккаунт, который поделал голос Байдена для дезинформации избирателей

ElevenLabs, une société d'IA spécialisée dans le clonage de voix, a bloqué le compte à partir duquel de faux enregistrements audio de la voix du président américain Joe Biden ont été créés.

Ce que nous savons

Les enregistrements ont été utilisés lors d'appels téléphoniques préélectoraux destinés à désinformer les électeurs et à réduire le taux de participation. L'expertise de Pindrop a confirmé que c'est la technologie ElevenLabs qui a été utilisée pour imiter la voix de Joe Biden.

La société a déclaré qu'elle enquêtait sur l'incident et qu'elle ne tolérerait pas l'utilisation de ses outils d'IA à des fins illégales. Cependant, les experts notent que les startups travaillant dans le domaine de la génération de contenu doivent être plus actives dans la lutte contre les abus.

Selon les experts, cet incident n'est que la partie émergée de l'iceberg. Les contrefaçons basées sur l'IA profonde pourraient devenir une menace sérieuse pour les processus démocratiques, y compris pour les prochaines élections présidentielles américaines.

Approfondir :

• Un faux appel téléphonique au nom de Joe Biden l'incitant à ne pas voter pour les démocrates lors des élections américaines s'est avéré être un "dipfake".

Source : Engadget Engadget