Meta publica el conjunto de datos FACET para examinar los modelos de visión por ordenador en busca de sesgos

Meta ha presentado una nueva herramienta, FACET, para evaluar la idoneidad de la inteligencia artificial que clasifica y reconoce objetos en fotos y vídeos, incluidas las personas.

Esto es lo que sabemos

FACET consta de 32.000 imágenes con 50.000 personas etiquetadas por anotadores humanos. La herramienta tiene en cuenta distintas clases relacionadas con ocupaciones y actividades, así como características demográficas y físicas.

Meta aplicó FACET a su propio algoritmo de visión por ordenador DINOv2. La herramienta detectó varios sesgos en el modelo, entre ellos contra personas con determinadas características de género. También descubrió que DINOv2 tendía a estereotipar a las mujeres como "enfermeras".

Meta reconoce que FACET puede no reflejar adecuadamente conceptos y grupos demográficos del mundo real. Además, muchas de las representaciones de las profesiones en el conjunto de datos pueden haber cambiado desde que se creó la herramienta.

Por ejemplo, la mayoría de los médicos y enfermeros que aparecen en las fotos tomadas durante la pandemia COVID-19 llevan más equipos de protección individual que antes de la pandemia.

Además del propio conjunto de datos, Meta también proporcionó una herramienta para explorar los datos. Para utilizarla, los desarrolladores deben comprometerse a no entrenar modelos de visión por ordenador con FACET, sino sólo a evaluarlos, probarlos y validarlos.

Fuente: TechCrunch