Системы беспилотного вождения хуже распознают детей и темнокожих людей, говорится в исследовании

Исследователи Королевского колледжа Лондона пришли к выводу, что системы беспилотного вождения для автомобилей подвержены предвзятости, особенно в отношении детей и темнокожих людей.

Что известно

Команда рассмотрела восемь систем обнаружения пешеходов с искусственным интеллектом, используемых для исследований в области автономного вождения. Они прогнали через программное обеспечение более 8000 изображений и обнаружили, что ИИ идентифицирует взрослых пешеходов почти на 20% лучше, чем детей. 

Кроме этого, рассматриваемые системы на 7,5% хуже распознают темнокожих людей, особенно при слабом освещении, что делает технологию менее безопасной в темное время суток.

В исследовании не проверялось программное обеспечение, которое уже используют производители робомобилей вроде Waymo и Cruise. Однако результаты еще раз подтверждают растущие опасения по поводу безопасности технологии.

По мнению исследователей, основной причиной проблем ИИ с распознаванием детей и темнокожих людей является предвзятость данных, используемых для обучения алгоритмов. Как правило, в датасетах чаще представлены взрослые и светлокожие люди.

Представитель Waymo заявил, что в исследовании представлены не все инструменты, которые используются в автомобилях компании. Помимо изображений с камер ИИ получает данные с датчиков вроде лидаров и радаров, которые улучшают точность обнаружения объектов.

Также Waymo обучает систему распознавать поведение людей и следит за тем, чтобы наборы данных были репрезентативными.

Для тех, кто не в курсе

Алгоритмы часто отражают предубеждения, присутствующие в наборах данных и в сознании людей, которые их создают. Одним из распространенных примеров является программа распознавания лиц, которая постоянно демонстрирует меньшую точность при распознавании лиц женщин, темнокожих и азиатов.

Однако эти опасения не остановили энтузиазма в отношении подобных технологий ИИ. Распознавание лиц уже не раз становилось причиной несправедливого ареста темнокожих людей

Для тех, кто хочет знать больше:

• В США из-за ошибки распознавания лиц арестовали невиновную женщину, которая была на восьмом месяце беременности
• Полиция Детройта изменит правила использования распознавания лиц после ошибочного задержания беременной женщины

Источник: Gizmodo