NVIDIA представила новий флагманський чип H200 для штучного інтелекту

Компанія NVIDIA анонсувала вихід нового топового чипа для задач штучного інтелекту - H200, яка прийде на зміну дефіцитному прискорювачу H100.

Що відомо

Зовні H200 мало відрізняється від попередника. Однак ключове оновлення торкнулося пам'яті - у новинці використовується більш швидкий і місткий тип HBM3e.

Завдяки цьому пропускна здатність пам'яті зросла до 4,8 Тбайт/с порівняно з 3,35 Тбайт/с у H100. Загальний обсяг збільшився з 80 до 141 Гбайт.

За заявою NVIDIA, новий чип забезпечує майже дворазове зростання продуктивності в задачах генеративного ШІ порівняно з H100. Оцінка заснована на тестуванні мовних моделей GPT-3 і Llama 2.

H200 повністю сумісний з наявними системами, що підтримують H100. Хмарні підрозділи Amazon, Google, Microsoft і Oracle стануть одними з перших, хто запропонує нові чипи своїм клієнтам.

Перші поставки нового чипа очікуються в другому кварталі 2024 року. Їхня вартість невідома, проте за даними ЗМІ, H100 продається за ціною від $25 000 до $40 000.

Анонс відбувся на тлі дефіциту чипів NVIDIA для ШІ. У майбутньому році компанія планує нарощувати виробництво моделі H100, яка залишається затребуваною у розробників ШІ.

Джерело: NVIDIA