NVIDIA stellt neuen Flaggschiff-Chip H200 für künstliche Intelligenz vor

Das Unternehmen NVIDIA hat die Veröffentlichung eines neuen Top-Chips für Aufgaben der künstlichen Intelligenz angekündigt - H200, der den knappen Beschleuniger H100 ersetzen wird.

Was bekannt ist

Äußerlich unterscheidet sich der H200 nicht wesentlich von seinem Vorgänger. Das wichtigste Update betrifft jedoch den Speicher - der neue Chip verwendet den schnelleren und leistungsfähigeren HBM3e-Typ.

Dadurch ist die Speicherbandbreite auf 4,8 TByte/s gestiegen, verglichen mit 3,35 TByte/s im H100. Die Gesamtkapazität ist von 80 GB auf 141 GB gestiegen.

NVIDIA behauptet, dass der neue Chip eine fast doppelt so hohe Leistungssteigerung bei generativen KI-Aufgaben im Vergleich zum H100 bietet. Die Bewertung basiert auf Tests der Sprachmodelle GPT-3 und Llama 2.

Der H200 ist vollständig kompatibel mit bestehenden Systemen, die den H100 unterstützen. Die Cloud-Abteilungen von Amazon, Google, Microsoft und Oracle werden zu den ersten gehören, die ihren Kunden die neuen Chips anbieten.

Die ersten Auslieferungen des neuen Chips werden für das zweite Quartal 2024 erwartet. Der Preis ist nicht bekannt, aber Medienberichten zufolge wird der H100 für 25.000 bis 40.000 US-Dollar verkauft.

Die Ankündigung erfolgte inmitten eines Engpasses bei den KI-Chips von NVIDIA. Nächstes Jahr will das Unternehmen die Produktion des H100 hochfahren, der bei KI-Entwicklern weiterhin gefragt ist.

Quelle: NVIDIA