NVIDIA представила новый флагманский чип H200 для искусственного интеллекта

NVIDIA

Компания NVIDIA анонсировала выход нового топового чипа для задач искусственного интеллекта — H200, которая придет на смену дефицитному ускорителю H100.

Что известно

Внешне H200 мало отличается от предшественника. Однако ключевое обновление коснулось памяти — в новинке используется более быстрый и емкий тип HBM3e.

Благодаря этому пропускная способность памяти выросла до 4,8 Тбайт/с по сравнению с 3,35 Тбайт/с у H100. Общий объем увеличился с 80 до 141 Гбайт.

По заявлению NVIDIA, новый чип обеспечивает почти двукратный рост производительности в задачах генеративного ИИ по сравнению с H100. Оценка основана на тестировании языковых моделей GPT-3 и Llama 2.

H200 полностью совместим с существующими системами, поддерживающими H100. Облачные подразделения Amazon, Google, Microsoft и Oracle станут одними из первых, кто предложит новые чипы своим клиентам.

Первые поставки нового чипа ожидаются во втором квартале 2024 года. Их стоимость неизвестна, однако по данным СМИ, H100 продается по цене от $25 000 до $40 000.

Анонс прошел на фоне дефицита чипов NVIDIA для ИИ. В будущем году компания планирует наращивать производство модели H100, которая остается востребованной у разработчиков ИИ.

Источник: NVIDIA