NVIDIA onthult nieuw vlaggenschip H200 chip voor kunstmatige intelligentie

NVIDIA kondigde de lancering aan van een nieuwe topchip voor kunstmatige intelligentietaken - H200, die de schaarse versneller H100 zal vervangen.

Dit is wat we weten

Uiterlijk verschilt de H200 niet veel van zijn voorganger. De belangrijkste update zit echter in het geheugen - de nieuwe chip gebruikt het snellere HBM3e type met een hogere capaciteit.

Hierdoor is de geheugenbandbreedte toegenomen tot 4,8 Tbyte/s vergeleken met 3,35 Tbyte/s in de H100. De totale capaciteit is toegenomen van 80 GB tot 141 GB.

NVIDIA claimt dat de nieuwe chip bijna twee keer betere prestaties levert bij generatieve AI-taken dan de H100. De evaluatie is gebaseerd op het testen van GPT-3 en Llama 2-taalmodellen.

De H200 is volledig compatibel met bestaande systemen die de H100 ondersteunen. De clouddivisies van Amazon, Google, Microsoft en Oracle zullen als een van de eersten de nieuwe chips aan hun klanten aanbieden.

De eerste leveringen van de nieuwe chip worden verwacht in het tweede kwartaal van 2024. De kosten zijn onbekend, maar volgens mediaberichten wordt de H100 verkocht voor 25.000 tot 40.000 dollar.

De aankondiging kwam midden in een tekort aan NVIDIA's AI-chips. Het bedrijf is van plan om volgend jaar de productie van de H100 op te voeren, omdat er nog steeds veel vraag naar is onder AI-ontwikkelaars.

Bron: NVIDIA