Роботы-пылесосы iRobot делали фотографии и отправляли их в другие компании для обучения ИИ

Осенью 2020 года на одном из венесуэльских форумов были опубликованы фотографии, сделанные роботами-пылесосами Roomba компании iRobot. Устройства делали снимки и отправляли их в другие компании для обучения искусственного интеллекта.

Что известно

Об этом сообщает MIT Technology Review. Авторы получили несколько фотографий, которые были сделаны роботами. На одном из снимков запечатлена женщина в лавандовой футболке со спущенным до середины бёдер шортами, сидящая на унитазе.

Фотографии различаются по типу и «степени чувствительности». В статье говорится, что наиболее интимными были изображения молодой женщины на унитазе, лицо которой было скрыто. Автором фото стал робот-пылесос iRobot Roomba серии J7. Он отправил снимки в стартап Scale AI для обучения искусственного интеллекта.

Другие кадры демонстрируют комнаты в разных ракурсах, мебель, предметы декора и домашних животных. Причём устройство распознало предметы на фото, поэтому они выделены рамками и имеют подписи. Например, «телевизор», «цветок», «потолочный светильник».

Компания iRobot, которую недавно приобрела Amazon за $1,7 млрд, подтвердила, что фотографии были сделаны пылесосами, но есть нюанс. Он заключается в том, что эти снимки были получены экспериментальными устройствами с аппаратными и программными модификациями. Такие роботы не доступны для покупки.

Они были переданы людям, которые подписали соглашение, подтверждающее, что они осведомлены, что роботы передают фотографии и видео обратно в компанию для изучения. iRobot также отмечет, что на устройства нанесена наклейка с надписью «Ведётся видеозапись». Кроме того, получатели роботов должны были убрать из поля зрения аппарата всё, что они считают чувствительным, включая детей. К слову, один из роботов сфотографировал ребёнка в возрасте 8-9 лет, который лежал на полу и смотрел прямо в объектив камеры.

Простыми словами, компания заявляет, что все, кто получил экспериментальный вариант Roomba, соглашались с тем, что робот-пылесос будет следить за ними. При этом iRobot не предоставила авторам статьи пример соглашения и не поделилась контактными данными людей, которые получили модифицированные устройства.

Авторы материала получили только 15 изображений. По данным iRobot, всего её роботизированные пылесосы сделали более 2 млн снимков для того, чтобы специалисты из Scale AI и других компаний смогли улучшить работу алгоритмов искусственного интеллекта.

Джеймс Бауссманн (James Baussmann), представитель iRobot, сообщил, что фирма «предприняла все меры предосторожности в целях обеспечения безопасности обработки персональных данных в соответствии с действующим законодательством». Также он отметил, что снимки, отправленные в MIT Technology Review, были «переданы в нарушение письменного соглашения о неразглашении между iRobot и поставщиком услуг по аннотированию изображений».

Гендиректор iRobot Колин Энгл (Colin Angle) отреагировал на инцидент. Он заявил, что компания прекращает отношения с поставщиком услуг, который допустил утечку. Кроме того, производитель начал расследование и обещает принять меры для предотвращения подобных ситуаций.

Источник: MIT Technology Review