AMD dévoile des puces pour la formation accélérée à l'intelligence artificielle

AMD a annoncé de nouveaux accélérateurs et processeurs axés sur les grands modèles de langage (LLM).

Voici ce que nous savons

Le fabricant de puces a dévoilé la puce Instinct MI300X et le processeur Instinct M1300A pour la formation et l'exécution de LLM. Selon l'entreprise, ces deux nouveaux produits surpassent leurs prédécesseurs en termes de capacité de mémoire et d'efficacité énergétique.

Selon Lisa Su, PDG d'AMD, le MI300X est "l'accélérateur le plus performant au monde". Il est comparable à la puce H100 de Nvidia en termes d'entraînement LLM, mais la surpasse de 1,4 fois en inférence sur le Llama 2 de Meta (70 milliards de paramètres).

AMD a également annoncé un partenariat avec Microsoft pour déployer le MI300X dans l'informatique en nuage Azure. Meta a également annoncé son intention de déployer des processeurs MI300 dans ses centres de données.

En outre, Su a annoncé les APU MI300A pour les centres de données, qui, selon elle, porteraient le marché à 45 milliards de dollars. Les APU combinent des CPU et des GPU pour un traitement plus rapide. AMD affirme que le MI300A offre de hautes performances, un apprentissage rapide des modèles et une efficacité énergétique 30 fois supérieure. Il possède une capacité de mémoire 1,6 fois supérieure à celle du H100 et met en œuvre une mémoire unifiée.

Le MI300A sera utilisé dans le supercalculateur El Capitan construit par Hewlett Packard Enterprise pour le Livermore National Laboratory. Il s'agit de l'une des installations les plus puissantes au monde avec une performance de plus de 2 exaflops.

L'entreprise n'a pas fourni d'informations sur les prix des nouveaux produits.

Par ailleurs, AMD a annoncé les puces Ryzen 8040, qui permettront d'introduire davantage de fonctions d'intelligence artificielle dans les appareils mobiles. Selon l'annonce, la série 8040 offre des performances de traitement de l'IA 1,6 fois supérieures à celles de la génération précédente et comprend également des unités de traitement neuronal (NPU) intégrées.

La société prévoit que les produits basés sur Ryzen 8040 seront disponibles au premier trimestre 2024.

Source : The Verge The Verge