Google CEO geeft toe dat AI Overview-functie een "hallucinatie"-probleem heeft
Google's onlangs geïntroduceerde AI Overview functie, die is ontworpen om samenvattingen te geven bovenaan de pagina met zoekresultaten, is bekritiseerd voor het verspreiden van onjuiste en vreemde informatie. In een recent interview erkende Google CEO Sundar Pichai dat er een serieus probleem was met de nieuwe AI-overzichtsfunctie, die is ontworpen om korte samenvattingen te geven bovenaan de zoekresultaten.
Dit is wat we weten
Gebruikers zijn geconfronteerd met onnauwkeurige en soms absurde informatie die door de functie wordt gegeven. Voorbeelden hiervan zijn het advies om lijm te gebruiken om kaas op pizza's te maken en het toeschrijven van onjuiste beweringen aan experts. Pichai legde uit dat dergelijke "hallucinaties" het resultaat zijn van fouten in de grote taalmodellen die worden gebruikt in het AI-overzicht. Ondanks de inspanningen van Google-technici blijft het probleem onopgelost, maar Pichai beweert dat de functie nog steeds nuttig kan zijn en noteerde een verbetering in nauwkeurigheid vergeleken met vorig jaar.
Kritiek van gebruikers en experts zoals AI-consultant Britney Mueller heeft de hoge verwachtingen voor AI-nauwkeurigheid en de risico's van een voortijdige implementatie benadrukt. Fouten in het AI-overzicht hebben voor ontevredenheid gezorgd op internet en kunnen de geloofwaardigheid van Google's zoekmachine ondermijnen.
Concluderend: ondanks het optimisme van Pichai benadrukken de aanhoudende bugs de noodzaak van verdere AI-verbeteringen en het belang van een balans tussen innovatie en gebruikersvertrouwen. Het verbeteren van de nauwkeurigheid en betrouwbaarheid van AI blijft een prioriteit om de verspreiding van verkeerde informatie te voorkomen.
Bron: ITHome
