Les robots aspirateurs iRobot ont pris des photos et les ont envoyées à d'autres entreprises pour former l'IA.
À l'automne 2020, un forum vénézuélien a publié des photos prises par les aspirateurs robots Roomba d'iRobot. Les appareils prenaient des photos et les envoyaient à d'autres entreprises pour entraîner l'intelligence artificielle.
Voici ce que nous savons
C'est ce que rapporte le MIT Technology Review. Les auteurs ont reçu plusieurs photos qui ont été prises par les robots. L'une des photos montre une femme portant un T-shirt lavande et dont le short descend jusqu'au milieu des cuisses, assise sur les toilettes.
Les photos varient en fonction du type et du "degré de sensibilité". L'article précise que les images les plus intimes sont celles d'une jeune femme sur les toilettes, dont le visage est caché. L'auteur des photos était un aspirateur robot iRobot Roomba série J7. Il a envoyé les images à la startup Scale AI pour entraîner l'intelligence artificielle.
D'autres photos montrent des pièces sous différents angles, des meubles, des décorations et des animaux domestiques. Et l'appareil a reconnu les éléments de la photo, de sorte qu'ils sont encadrés et légendés. Par exemple, "télévision", "fleur", "lampe de plafond".
iRobot, qui a été récemment racheté par Amazon pour 1,7 milliard de dollars, a confirmé que les photos ont été prises par des aspirateurs, mais il y a une nuance. C'est que ces photos ont été prises par des appareils expérimentaux avec des modifications matérielles et logicielles. Ces robots ne sont pas disponibles à l'achat.
Ils ont été donnés à des personnes qui ont signé un accord confirmant qu'elles sont conscientes que les robots transmettent des photos et des vidéos à l'entreprise pour étude. iRobot note également que les appareils portent un autocollant indiquant "Enregistrement vidéo en cours". En outre, les destinataires des robots ont dû retirer du champ de vision de l'appareil tout ce qu'ils considèrent comme sensible, y compris les enfants. À ce propos, l'un des robots a photographié un enfant de 8 ou 9 ans qui était allongé sur le sol et regardait directement dans l'objectif de la caméra.
En termes simples, l'entreprise affirme que toutes les personnes qui ont reçu une version expérimentale du Roomba ont accepté que l'aspirateur robot les suive. Toutefois, iRobot n'a pas fourni aux auteurs de l'article un exemple de l'accord ni partagé les coordonnées des personnes qui ont reçu les appareils modifiés.
Les auteurs de l'article n'ont reçu que 15 images. Selon iRobot, au total, ses aspirateurs robotisés ont pris plus de 2 millions d'images afin que les experts de Scale AI et d'autres entreprises puissent améliorer les performances des algorithmes d'intelligence artificielle.
James Baussmann, un porte-parole d'iRobot, a déclaré que l'entreprise "a pris toutes les précautions nécessaires pour assurer la sécurité du traitement des données personnelles conformément à la loi applicable". Il a également noté que les images envoyées au MIT Technology Review ont été "transmises en violation d'un accord écrit de non-divulgation entre iRobot et le fournisseur de services d'annotation d'images."
Le PDG d'iRobot, Colin Angle, a réagi à l'incident. Il a déclaré que l'entreprise mettait fin à sa relation avec le fournisseur de services qui a permis la fuite. En outre, le fabricant a lancé une enquête et promet de prendre des mesures pour éviter des situations similaires.
Source : MIT Technology Review
