Il CEO di Google ammette che la funzione AI Overview ha un problema di "allucinazione".

La funzione AI Overview recentemente introdotta da Google, progettata per fornire riassunti nella parte superiore delle pagine dei risultati di ricerca, è stata criticata per la diffusione di informazioni errate e strane. In una recente intervista, il CEO di Google Sundar Pichai ha riconosciuto un grave problema con la nuova funzione AI Overview, progettata per fornire brevi riassunti in cima ai risultati di ricerca.

Ecco cosa sappiamo

Gli utenti hanno riscontrato informazioni imprecise e talvolta assurde fornite dalla funzione. Tra gli esempi, il consiglio di usare la colla per fissare il formaggio sulla pizza e l'attribuzione di false affermazioni agli esperti. Pichai ha spiegato che tali "allucinazioni" sono il risultato di errori nei modelli linguistici di grandi dimensioni utilizzati nell'AI Overview. Nonostante gli sforzi degli ingegneri di Google, il problema rimane irrisolto, ma Pichai sostiene che la funzione può ancora essere utile e ha notato un miglioramento della precisione rispetto all'anno scorso.

Le critiche di utenti ed esperti, come la consulente di AI Britney Mueller, hanno sottolineato le elevate aspettative di accuratezza dell'AI e i rischi associati a un'implementazione prematura. Gli errori di panoramica dell'IA hanno causato malcontento su Internet e potrebbero minare la credibilità del motore di ricerca di Google.

In conclusione, nonostante l'ottimismo di Pichai, i bug in corso evidenziano la necessità di ulteriori miglioramenti dell'IA e l'importanza di bilanciare l'innovazione con la fiducia degli utenti. Migliorare l'accuratezza e l'affidabilità dell'IA rimane una priorità per prevenire la diffusione della disinformazione.

Fonte: ITHome