TikTok в центре скандала: ошибка в инструменте для создания аватаров позволила использовать высказывания Гитлера

TikTok оказался в центре скандала из-за ошибки в их новом инструменте для создания цифровых аватаров.

Что известно

Перед исправлением ошибки, этот инструмент, который предназначен для создания рекламного контента, позволял пользователям вкладывать любой текст в уста платных актеров, включая фразы, связанные с Гитлером и другие шокирующие высказывания.

TikTok накладывал нулевые ограничения на контент в приложении. Любые слова, которые мы вкладывали, создавали видео с бодрым "стоковым ИИ" Аватаром, декламирующим их. В том числе:

-The 14 слов
-Выдержка из Майн Кампф
-Письмо Осамы бен Ладена Америке
-Видео, в котором людям предлагается пить отбеливатель из "а... pic.twitter.com/I2QbqbDFnw

- Jon Sarlin (@jonsarlin) 21 июня 2024 года

CNN сначала заметила эту ошибку и, использовав ее, создала видео с цитатами Гитлера и призывами к опасным действиям. Это вызвало серьезные возмущения и обеспокоенность среди пользователей и общественности. После этого обнаружения TikTok прекратил работу с этой версией инструмента.

После этого инцидента TikTok удалил ссылку на эту версию инструмента и продолжает осуществлять меры для безопасности и соответствия с правилами их платформы.

Источник: The Verge