Google-CEO räumt ein, dass die KI-Übersichtsfunktion ein Problem mit "Halluzinationen" hat
Die kürzlich eingeführte KI-Übersichtsfunktion von Google, die Zusammenfassungen am Anfang der Suchergebnisseiten liefern soll, wurde für die Verbreitung falscher und seltsamer Informationen kritisiert. In einem kürzlich geführten Interview räumte Google-CEO Sundar Pichai ein ernstes Problem mit der neuen KI-Übersichtsfunktion ein, die kurze Zusammenfassungen am Anfang der Suchergebnisse liefern soll.
Was bekannt ist
Die Nutzer sind auf ungenaue und manchmal absurde Informationen gestoßen, die von der Funktion bereitgestellt wurden. Beispiele dafür sind Ratschläge, wie man Käse auf einer Pizza mit Klebstoff fixieren kann, und die Zuschreibung falscher Behauptungen an Experten. Pichai erklärte, dass solche "Halluzinationen" das Ergebnis von Fehlern in den großen Sprachmodellen sind, die in AI Overview verwendet werden. Trotz der Bemühungen der Google-Ingenieure bleibt das Problem ungelöst, aber Pichai behauptet, dass die Funktion immer noch nützlich sein kann und stellte eine Verbesserung der Genauigkeit im Vergleich zum letzten Jahr fest.
Die Kritik von Nutzern und Experten wie der KI-Beraterin Britney Mueller hat die hohen Erwartungen an die KI-Genauigkeit und die mit einer verfrühten Implementierung verbundenen Risiken hervorgehoben. KI-Übersichtsfehler haben im Internet für Unzufriedenheit gesorgt und könnten die Glaubwürdigkeit der Google-Suchmaschine untergraben.
Zusammenfassend lässt sich sagen, dass trotz Pichais Optimismus die anhaltenden Fehler die Notwendigkeit weiterer KI-Verbesserungen und die Bedeutung eines ausgewogenen Verhältnisses zwischen Innovation und Nutzervertrauen unterstreichen. Die Verbesserung der Genauigkeit und Zuverlässigkeit von KI bleibt eine Priorität, um die Verbreitung von Fehlinformationen zu verhindern.
Quelle: ITHome
