Восстание машин: Alexa посоветовала 10-летней девочке смертельно опасный челлендж
Искусственный интеллекта Alexa компании Amazon предложил девочке опасный для жизни челлендж. Об этом сообщила мать ребёнка, которая предотвратила трагедию.
Женщина с 10-летней дочкой занимались физическими упражнениями, после чего девочка попросила у умной колонки с голосовым помощником придумать новый челлендж. Alexa посоветовала ребёнку неполностью вставить адаптер питания для смартфона в розетку и дотронуться до контактов монеткой.
OMFG My 10 year old just asked Alexa on our Echo for a challenge and this is what she said. pic.twitter.com/HgGgrLbdS8
— Kristin Livdahl (@klivdahl) December 26, 2021
В ходе расследования было установлено, что ИИ нашёл идею для испытания в сообществе Our Community Now. Челлендж был популярным у пользователей TikTok и других социальных сетей примерно год назад. Одно из таких испытаний в 2020 году завершилось пожаром. Иронично, что Alexa нашла текст в статье, автор которой предупреждает родителей детей об опасности подобных вызовов.
They replied at 1:18 CMT time. pic.twitter.com/V2aS0uFfDq
— Kristin Livdahl (@klivdahl) December 28, 2021
Amazon уже отреагировала на инцидент. Представители компании заявили, что ошибка была исправлена. Правда, разработчик не уточняет, по какому принципу Alexa выполняет подобный поиск и как на него повлияли.
Источник: NY Post
Для тех, кто хочет знать больше: