El CEO de Google admite que la función AI Overview tiene un problema de "alucinación"

La recientemente introducida función AI Overview de Google, diseñada para ofrecer resúmenes en la parte superior de las páginas de resultados de búsqueda, ha sido criticada por difundir información incorrecta y extraña. En una entrevista reciente, el CEO de Google, Sundar Pichai, reconoció un grave problema con la nueva función AI Overview, diseñada para proporcionar breves resúmenes en la parte superior de los resultados de búsqueda.

Esto es lo que sabemos

Los usuarios se han encontrado con información inexacta y a veces absurda proporcionada por la función. Algunos ejemplos son el consejo de utilizar pegamento para fijar el queso en la pizza y la atribución de afirmaciones falsas a expertos. Pichai explicó que tales "alucinaciones" son el resultado de errores en los grandes modelos lingüísticos utilizados en AI Overview. A pesar de los esfuerzos de los ingenieros de Google, el problema sigue sin resolverse, pero Pichai afirma que la función puede seguir siendo útil y señaló una mejora de la precisión con respecto al año pasado.

Las críticas de usuarios y expertos, como la consultora Britney Mueller, han puesto de relieve las elevadas expectativas de precisión de la IA y los riesgos asociados a su aplicación prematura. Los errores de AI Overview han causado descontento en Internet y podrían minar la credibilidad del motor de búsqueda de Google.

En conclusión, a pesar del optimismo de Pichai, los continuos fallos ponen de manifiesto la necesidad de seguir mejorando la IA y la importancia de equilibrar la innovación con la confianza de los usuarios. Mejorar la precisión y fiabilidad de la IA sigue siendo una prioridad para evitar la propagación de información errónea.

Fuente: ITHome