Microsoft розробила інструмент ШІ для створення реалістичних дипфейків
Microsoft Research Asia анонсувала випуск нового експериментального інструменту штучного інтелекту VASA-1, що може створювати правдоподібні дипфейки, використовуючи лише фотографію.
Що відомо
Цей інструмент може імітувати міміку, рухи голови та рухи губ, створюючи враження, що обличчя на фотографії дійсно говорить або співає. Хоча рухи голови можуть виглядати дещо роботизовано, рівень правдоподібності дивує. Однак розробники поки що утримуються від публічного випуску інструменту або API, доки не буде забезпечена відповідальність за його використання.
Група дослідників наголосила на своєму протистоянні будь-якій діяльності, спрямованій на створення обманливого або шкідливого вмісту про реальних осіб. Замість цього вони бачать потенційне використання інструменту для спілкування та терапевтичної підтримки, або як компанійських ботів.
Це оголошення приходить після того, як Microsoft змушена була вивести свою модель штучного інтелекту WizardLM-2 в автономний режим через невдалий тест на токсичність. Цей інцидент свідчить про важливість ретельного тестування та контролю за новими технологіями перед їх широким випуском на ринок.
Джерело: Microsoft
