Microsoft presenta sus propios chips de inteligencia artificial para no depender de NVIDIA

Microsoft ha desarrollado sus propios chips Maia 100 y Cobalt 100 diseñados para el entrenamiento generativo de IA y la computación en la nube. En el futuro, los nuevos productos reducirán la dependencia de las costosas GPU de NVIDIA.

Esto es lo que sabemos

El procesador Azure Cobalt es un chip de 128 núcleos basado en el diseño CSS Arm Neoverse. Está diseñado para funcionar con los servicios de nube compartida Azure.

Microsoft está probando actualmente Cobalt 100 en cargas de trabajo como Microsoft Teams y SQL Server. Tiene previsto proporcionar a los clientes máquinas virtuales para diferentes cargas de trabajo el año que viene.

El acelerador Maia 100 de Microsoft está diseñado para ejecutar cargas de trabajo de IA basadas en la nube, como el entrenamiento y la generación de grandes modelos lingüísticos. El chip se fabrica mediante el proceso de 5 nm de TSMC y contiene 105.000 millones de transistores.

Maia 100 se está probando actualmente en GPT 3.5 Turbo, el mismo modelo en el que se ejecutan ChatGPT, Bing AI y GitHub Copilot. El año que viene se producirá el lanzamiento completo.

Microsoft se encuentra en las primeras fases del despliegue de los procesadores, por lo que no ha revelado las especificaciones exactas ni los puntos de referencia de rendimiento.

Fuente: The Verge