Системи безпілотного водіння гірше розпізнають дітей і темношкірих людей, йдеться в дослідженні

Дослідники Королівського коледжу Лондона дійшли висновку, що системи безпілотного водіння для автомобілів схильні до упередженості, особливо щодо дітей і темношкірих людей.

Що відомо

Команда розглянула вісім систем виявлення пішоходів зі штучним інтелектом, які використовуються для досліджень у сфері автономного водіння. Вони прогнали через програмне забезпечення понад 8000 зображень і виявили, що ШІ ідентифікує дорослих пішоходів майже на 20% краще, ніж дітей.

Крім цього, розглянуті системи на 7,5% гірше розпізнають темношкірих людей, особливо за слабкого освітлення, що робить технологію менш безпечною в темний час доби.

У дослідженні не перевірялося програмне забезпечення, яке вже використовують виробники робомобілів на кшталт Waymo і Cruise. Однак результати ще раз підтверджують зростаючі побоювання з приводу безпеки технології.

На думку дослідників, основною причиною проблем ШІ з розпізнаванням дітей і темношкірих людей є упередженість даних, використовуваних для навчання алгоритмів. Як правило, в датасетах частіше представлені дорослі та світлошкірі люди.

Представник Waymo заявив, що в дослідженні представлені не всі інструменти, які використовуються в автомобілях компанії. Окрім зображень із камер, ШІ отримує дані з датчиків на кшталт лідарів і радарів, які покращують точність виявлення об'єктів.

Також Waymo навчає систему розпізнавати поведінку людей і стежить за тим, щоб набори даних були репрезентативними.

Для тих, хто не в курсі

Алгоритми часто відображають упередження, присутні в наборах даних і у свідомості людей, які їх створюють. Одним із поширених прикладів є програма розпізнавання облич, яка постійно демонструє меншу точність під час розпізнавання облич жінок, темношкірих та азіатів.

Однак ці побоювання не зупинили ентузіазму щодо подібних технологій ШІ. Розпізнавання облич уже не раз ставало причиною несправедливого арешту темношкірих людей

Для тих, хто хоче знати більше:

• У США через помилку розпізнавання облич заарештували невинну жінку, яка була на восьмому місяці вагітності
• Поліція Детройта змінить правила використання розпізнавання облич після помилкового затримання вагітної жінки

Джерело: Gizmodo