Le PDG de Google admet que la fonction AI Overview a un problème d'"hallucination".

La fonction "AI Overview" récemment introduite par Google, conçue pour fournir des résumés en haut des pages de résultats de recherche, a été critiquée pour la diffusion d'informations incorrectes et étranges. Dans une récente interview, Sundar Pichai, PDG de Google, a reconnu l'existence d'un grave problème avec la nouvelle fonctionnalité "AI Overview", conçue pour fournir de brefs résumés en haut des pages de résultats de recherche.

Voici ce que nous savons

Les utilisateurs ont été confrontés à des informations inexactes, voire absurdes, fournies par la fonction. Parmi les exemples, citons le conseil d'utiliser de la colle pour fixer le fromage sur une pizza et l'attribution de fausses affirmations à des experts. M. Pichai a expliqué que ces "hallucinations" sont le résultat d'erreurs dans les grands modèles de langage utilisés dans l'aperçu de l'IA. Malgré les efforts des ingénieurs de Google, le problème n'est toujours pas résolu, mais M. Pichai affirme que la fonction peut toujours être utile et a noté une amélioration de la précision par rapport à l'année dernière.

Les critiques des utilisateurs et des experts tels que Britney Mueller, consultante en IA, ont mis l'accent sur les attentes élevées en matière de précision de l'IA et sur les risques associés à sa mise en œuvre prématurée. Les erreurs d'aperçu de l'IA ont suscité le mécontentement sur l'internet et pourraient nuire à la crédibilité du moteur de recherche de Google.

En conclusion, malgré l'optimisme de M. Pichai, les bogues actuels soulignent la nécessité d'améliorer encore l'IA et l'importance de trouver un équilibre entre l'innovation et la confiance des utilisateurs. L'amélioration de la précision et de la fiabilité de l'IA reste une priorité pour empêcher la diffusion de fausses informations.

Source : ITHome ITHome