Los robots aspiradores de iRobot tomaron fotos y las enviaron a otras empresas para entrenar la IA
En otoño de 2020, un foro venezolano publicó fotos tomadas por las aspiradoras robóticas Roomba de iRobot. Los dispositivos tomaban imágenes y las enviaban a otras empresas para entrenar la inteligencia artificial.
Esto es lo que sabemos
Así lo informa MIT Technology Review. Los autores recibieron varias fotos tomadas por los robots. Una de las fotos muestra a una mujer con una camiseta lavanda y los pantalones cortos bajados hasta la mitad de los muslos, sentada en el retrete.
Las fotos varían en tipo y "grado de sensibilidad". El artículo decía que las imágenes más íntimas eran de una mujer joven en el retrete, cuyo rostro estaba oculto. El autor de las fotos fue un robot aspirador de la serie iRobot Roomba J7. Envió las imágenes a la startup Scale AI para entrenar la inteligencia artificial.
Otras fotos muestran habitaciones en distintos ángulos, muebles, decoraciones y mascotas. Y el dispositivo reconoció los elementos de la foto, por lo que aparecen enmarcados y subtitulados. Por ejemplo, "televisor", "flor", "lámpara de techo".
iRobot, que fue adquirida recientemente por Amazon por 1.700 millones de dólares, ha confirmado que las fotos fueron tomadas por aspiradoras, pero hay un matiz. Y es que estas fotos fueron tomadas por dispositivos experimentales con modificaciones de hardware y software. Dichos robots no están disponibles para su compra.
Se han entregado a personas que han firmado un acuerdo en el que confirman que son conscientes de que los robots transmiten fotos y vídeos a la empresa para su estudio. iRobot también señala que los dispositivos están etiquetados con una pegatina que dice "Grabación de vídeo en curso". Además, los destinatarios de los robots tuvieron que eliminar del campo de visión del dispositivo cualquier cosa que consideraran sensible, incluidos los niños. Por cierto, uno de los robots fotografió a un niño de 8 ó 9 años que estaba tumbado en el suelo y miraba directamente al objetivo de la cámara.
En pocas palabras, la empresa afirma que todos los que recibieron una versión experimental de Roomba aceptaron que el robot aspirador les siguiera. Sin embargo, iRobot no proporcionó a los autores del artículo un ejemplo del acuerdo ni compartió la información de contacto de las personas que recibieron los dispositivos modificados.
Los autores del artículo sólo recibieron 15 imágenes. Según iRobot, en total sus aspiradoras robóticas tomaron más de 2 millones de imágenes para que los expertos de Scale AI y otras empresas puedan mejorar el rendimiento de los algoritmos de inteligencia artificial.
James Baussmann, portavoz de iRobot, aseguró que la firma "ha tomado todas las precauciones para garantizar el tratamiento seguro de los datos personales de acuerdo con la legislación aplicable". También señaló que las imágenes enviadas a MIT Technology Review fueron "transmitidas en violación de un acuerdo escrito de no divulgación entre iRobot y el proveedor del servicio de anotación de imágenes."
El consejero delegado de iRobot, Colin Angle, respondió al incidente. Dijo que la compañía está terminando su relación con el proveedor de servicios que permitió la filtración. Además, el fabricante ha iniciado una investigación y promete tomar medidas para evitar situaciones similares.
Fuente: MIT Technology Review