NVIDIA presenta su nuevo chip H200 para inteligencia artificial

La compañía NVIDIA ha anunciado el lanzamiento de un nuevo chip puntero para tareas de inteligencia artificial: el H200, que sustituirá al escaso acelerador H100.

Esto es lo que sabemos

Externamente, el H200 no difiere mucho de su predecesor. Sin embargo, la actualización clave está en la memoria: el nuevo chip utiliza el tipo HBM3e, más rápido y de mayor capacidad.

Gracias a ello, el ancho de banda de la memoria ha aumentado a 4,8 Tbyte/s frente a los 3,35 Tbyte/s del H100. La capacidad total ha aumentado de 80 GB a 141 GB.

NVIDIA afirma que el nuevo chip proporciona casi el doble de rendimiento en tareas de IA generativa que el H100. La evaluación se basa en pruebas de los modelos de lenguaje GPT-3 y Llama 2.

El H200 es totalmente compatible con los sistemas existentes que admiten el H100. Las divisiones en la nube de Amazon, Google, Microsoft y Oracle serán de las primeras en ofrecer los nuevos chips a sus clientes.

Los primeros envíos del nuevo chip se esperan para el segundo trimestre de 2024. Se desconoce su coste, pero según los medios, el H100 se vende por entre 25.000 y 40.000 dólares.

El anuncio se produce en plena escasez de chips de IA de NVIDIA. El año que viene, la compañía planea aumentar la producción del H100, que sigue siendo demandado por los desarrolladores de IA.

Fuente: NVIDIA