Jensen Huang: KI-Halluzinationen sind lösbar, und künstliche allgemeine Intelligenz ist noch 5 Jahre entfernt

NVIDIA

Auf der jährlichen GTC-Konferenz äußerte sich NVIDIA-CEO Jensen Huang zu aktuellen Fragen der Künstlichen Intelligenz (KI) und dem Problem der Halluzinationen bei KI-Reaktionen.

Was bekannt ist

Laut Huang könnte es innerhalb der nächsten 5 Jahre gelingen, ein akzeptables Niveau von AGI zu erreichen, das bei einer Vielzahl von Aufgaben auf menschlichem Niveau liegt oder den Menschen übertrifft. Der genaue Zeitrahmen hängt jedoch davon ab, wie wir die Kriterien für AGI definieren.

-Wenn wir AGI als etwas sehr Spezielles definieren, als eine Reihe von Tests, bei denen ein Softwareprogramm sehr gut abschneidet - oder vielleicht 8 % besser als die meisten Menschen - dann glaube ich, dass wir innerhalb von 5 Jahren so weit sein werden", erklärte Huang.

Als solche Tests nannte er Rechtsprüfungen, Logiktests, Wirtschaftstests oder medizinische Aufnahmeprüfungen.

Das Problem der Halluzinationen, d. h. der Neigung der KI, falsche, aber plausible Antworten zu geben, hält Huang für lösbar. Er schlug vor, von den Systemen zu verlangen, dass sie Antworten aus glaubwürdigen Quellen prüfen und bestätigen, bevor sie ein Ergebnis ausgeben.

- Huang sagte: "Fügen Sie eine Regel hinzu: Für jede einzelne Antwort müssen Sie die Antwort nachschlagen".

Er sagte, der Prozess könnte ähnlich wie die Faktenüberprüfung im Journalismus sein: Fakten aus Quellen mit bekannten Wahrheiten vergleichen, und wenn die Antwort teilweise ungenau ist, die gesamte Quelle verwerfen.

Quelle: TechCrunch