AMD ha presentato chip per l'addestramento accelerato dell'intelligenza artificiale
PaulSakuma.com.
AMD ha annunciato nuovi acceleratori e processori incentrati sui Large Language Models (LLM).
Ecco cosa sappiamo
Il produttore di chip ha presentato il chip Instinct MI300X e il processore Instinct M1300A per la formazione e l'esecuzione di LLM. Come sostiene l'azienda, entrambi i nuovi prodotti superano i loro predecessori in termini di capacità di memoria ed efficienza energetica.
Secondo Lisa Su, CEO di AMD, il MI300X è "l'acceleratore più performante al mondo". È paragonabile al chip H100 di Nvidia in termini di formazione LLM, ma lo supera di 1,4 volte nell'inferenza su Llama 2 di Meta (70 miliardi di parametri).
AMD ha anche annunciato una partnership con Microsoft per implementare il MI300X nel cloud computing di Azure. Meta ha anche annunciato l'intenzione di implementare i processori MI300 nei propri data center.
Inoltre, Su ha annunciato le APU MI300A per i data center, che, a suo dire, faranno crescere il mercato fino a 45 miliardi di dollari. Le APU combinano CPU e GPU per un'elaborazione più veloce. AMD sostiene che la MI300A offre prestazioni elevate, apprendimento rapido dei modelli e un'efficienza energetica 30 volte superiore. Ha una capacità di memoria 1,6 volte superiore a quella dell'H100 e implementa una memoria unificata.
L'MI300A sarà utilizzato nel supercomputer El Capitan costruito da Hewlett Packard Enterprise per il Livermore National Laboratory. Si tratta di una delle installazioni più potenti al mondo, con prestazioni superiori a 2 exaflops.
L'azienda non ha fornito informazioni sui prezzi dei nuovi prodotti.
Inoltre, AMD ha annunciato Ryzen 8040 - chip che consentiranno di introdurre più funzioni AI nei dispositivi mobili. Secondo l'annuncio, la serie 8040 offre prestazioni di elaborazione AI 1,6 volte superiori rispetto alla generazione precedente e dispone anche di unità di elaborazione neurale (NPU) integrate.
L'azienda prevede che i prodotti basati su Ryzen 8040 saranno disponibili nel primo trimestre del 2024.
Fonte: The Verge