Refroidir Nvidia coûte plus cher qu'acheter une Tesla : le système de refroidissement Blackwell Ultra coûtera 50 000 $
Avec l'augmentation de la puissance de l'intelligence artificielle, les factures pour son refroidissement augmentent également. Selon un rapport de Morgan Stanley, le système de refroidissement liquide pour une armoire Nvidia Blackwell Ultra NVL72 coûte environ 49 860 $ — soit presque le prix d'une Tesla Model Y neuve. Et ce n'est que le début: dans la prochaine génération Vera Rubin NVL144, le coût augmentera encore de 17%, atteignant 55 710 $.
Ce qui est connu
Selon le rapport, chaque armoire Nvidia se compose de 18 modules de calcul (trays) et de 9 modules de commutation. La majeure partie des coûts concerne le refroidissement des blocs de calcul, où sont installés les GPU Blackwell chauffants. Rien que pour eux, environ 40 000 $ sont nécessaires, et chaque plaque froide (cold plate) coûte environ 300 $.
Dans le nouveau système Vera Rubin NVL144, qui utilise des processeurs graphiques Rubin d'une puissance allant jusqu'à 1 800 W par puce, le coût des radiateurs atteindra 400 $, et le refroidissement d'un seul module — 2 660 $. Malgré une légère baisse du prix du refroidissement des commutateurs, les dépenses totales continuent d'augmenter.
La situation ne fera qu'empirer avec le passage aux GPU Rubin Ultra, qui devraient consommer jusqu'à 3 600 W de chaleur par paquet. Cela obligera déjà Nvidia à passer à des technologies encore plus complexes et coûteuses — peut-être un refroidissement par immersion ou des systèmes intégrés de dissipation thermique.
L'entreprise prépare également la NVL576 “Kyber”, où le nombre de GPU doublera pour atteindre 144. Cependant, avec la performance, le coût du refroidissement augmentera également — proportionnellement à l'appétit énergétique des systèmes.
Si auparavant, le refroidissement par eau était considéré comme un luxe, il devient maintenant l'un des éléments les plus coûteux de l'infrastructure des centres IA.
Source: Tom's Hardware | @Jukanlosreve