Googles administrerende direktør innrømmer at AI Overview-funksjonen har et "hallusinasjonsproblem"

Googles nylig introduserte AI Overview-funksjon, som skal gi sammendrag øverst på søkeresultatsidene, har blitt kritisert for å spre feilaktig og underlig informasjon. I et nylig intervju erkjente Google-sjef Sundar Pichai et alvorlig problem med den nye AI Overview-funksjonen, som er designet for å gi korte sammendrag øverst i søkeresultatene.

Her er hva vi vet

Brukere har opplevd unøyaktig og noen ganger absurd informasjon gitt av funksjonen. Eksempler på dette er råd om å bruke lim til å feste ost på pizza og å tillegge eksperter falske påstander. Pichai forklarte at slike "hallusinasjoner" er et resultat av feil i de store språkmodellene som brukes i AI Overview. Til tross for innsatsen fra Googles ingeniører, er problemet fortsatt uløst, men Pichai hevder at funksjonen fortsatt kan være nyttig og bemerket en forbedring i nøyaktighet sammenlignet med i fjor.

Kritikk fra brukere og eksperter som AI-konsulenten Britney Mueller har understreket de høye forventningene til AI-nøyaktighet og risikoen forbundet med en for tidlig implementering. Feil i AI-oversikten har skapt misnøye på internett og kan undergrave troverdigheten til Googles søkemotor.

Til tross for Pichais optimisme understreker de pågående feilene behovet for ytterligere forbedringer av kunstig intelligens og viktigheten av å balansere innovasjon med brukernes tillit. Å forbedre nøyaktigheten og påliteligheten til kunstig intelligens er fortsatt en prioritet for å forhindre spredning av feilinformasjon.

Kilde: ITHome ITHome