PaliGemma 2, el nuevo modelo de inteligencia artificial de Google, puede identificar emociones, pero preocupa a los expertos
Google ha anunciado un nuevo modelo de inteligencia artificial, PaliGemma 2, capaz de reconocer emociones en imágenes.
Esto es lo que sabemos
Este modelo analiza fotos y crea descripciones detalladas que incluyen acciones, emociones y el contexto general de la escena. Sin embargo, los expertos se muestran preocupados por las posibles implicaciones del uso de esta tecnología. Creen que reconocer las emociones es todo un reto porque las personas expresan sus sentimientos de forma diferente según el contexto cultural y personal.
Algunos estudios demuestran que los sistemas de reconocimiento de emociones pueden ser poco fiables y sesgados. Google afirma haber realizado pruebas exhaustivas para evaluar el sesgo demográfico en PaliGemma 2 y ha encontrado bajos niveles de toxicidad y blasfemia en comparación con los estándares del sector.
Sin embargo, la empresa no ha revelado la lista completa de puntos de referencia utilizados ni los tipos de pruebas realizadas. Los expertos advierten de que el uso de este tipo de tecnologías podría dar lugar a discriminación y otras consecuencias negativas.
Fuente: techcrunch
