NVIDIA transpose l’évolution de la course à l’IA du simple nombre de GPU installés vers une métrique de plus en plus déterminante : la quantité de travail d’IA qu’un centre de données peut produire par mégawatt disponible. Sa réponse : DSX MaxLPS, un ensemble de technologies intégrant la gestion électrique, les logiciels, la refroidissement liquide, et la conception des infrastructures, permettant selon la société que les futurs centres utilisant Vera Rubin NVL72 puissent accueillir jusqu’à 40 % de GPU supplémentaires avec le même budget énergétique.
Les clés de NVIDIA DSX MaxLPS en 30 secondes
- MaxLPS vise à optimiser l’utilisation d’une puissance électrique qui, dans de nombreux centres de données, est déjà la ressource limitant l’ajout de nouvelles GPU.
- NVIDIA propose de réaffecter dynamiquement la capacité électrique non utilisée par certains racks.
- En tests représentatifs, le système maintient la performance tout en réduisant la puissance provisionnée par rack.
- Vera Rubin NVL72 est conçu pour une refroidissement liquide avec une entrée d’eau à 45 °C.
- NVIDIA estime qu’il est possible d’intégrer jusqu’à 40 % de GPU en plus dans une même installation en conservant la même puissance disponible.
Ce concept est d’autant plus pertinent qu’il ne consiste pas simplement à augmenter la puissance électrique souscrit. L’idée est plutôt de fonctionner dans une limite fixe et de récupérer la capacité qui est actuellement perdue entre la refroidissement, la distribution électrique, les réserves opérationnelles, et l’écart entre la consommation maximale provisionnée et la consommation réelle des racks.
NVIDIA qualifie MaxLPS de Maximum Land Power Shell, une approche qui considère conjointement trois limites physiques d’une installation : la surface disponible, la puissance électrique, et le bâtiment avec ses systèmes d’énergie, de refroidissement, de communication et de calcul. Pour la société, ces ressources doivent être gérées comme un système intégré, plutôt que de dimensionner chaque rack comme une unité isolée.
Le problème de la capacité électrique réservée mais inutilisée
Un centre de données ne peut pas supposer que ses serveurs consommeront toujours leur puissance moyenne.
L’infrastructure électrique doit supporter les pics de consommation. Si un rack peut atteindre 120 kW sous certaines charges, réserver uniquement 90 kW en pensant que c’est sa consommation habituelle pourrait poser problème lorsque le système atteint la limite maximale.
Il en résulte que, traditionnellement, on alloue suffisamment de puissance à chaque rack pour couvrir ces scénarios extrêmes.
Mais les charges liées à l’IA ne sont pas constantes.
L’entraînement, l’inférence, la synchronisation, l’accès à la mémoire, la communication, le checkpointing, le pre-fill et le decode génèrent des profils électriques variés. Certains moments, les GPU travaillent intensément, d’autres, ils attendent des données ou des communications.
Un rack peut avoir réservé une puissance qu’il n’utilise pas momentanément, tandis qu’un autre pourrait profiter de cette capacité.
NVIDIA souhaite transformer cette marge d’inactivité en capacité partagée.
Prenons un exemple hypothétique d’une installation de 100 MW. Selon le modèle de la société, 20 MW sont dédiés au fonctionnement même de l’installation, 10 MW sont perdus par l’infrastructure des racks, et 10 MW restent hors de la charge utile IA en raison d’inefficacités opérationnelles liées aux pannes, redémarrages ou checkpoints.
Il ne reste donc que 60 MW effectivement alloués à la charge IA.
Ce découpage n’est pas une règle universelle pour tous les centres, mais une illustration permettant de montrer à quel point la puissance électrique reçue peut être largement différente de celle réellement utilisée pour le calcul.
Ce qui soulève une question de plus en plus cruciale pour les opérateurs : en s’appuyant sur une GPU plus efficace, on peut augmenter la capacité, mais il est également essentiel de faire en sorte qu’une plus grande part des mégawatts souscrits par l’entreprise parvienne réellement jusqu’à ces GPU.
Passer d’une puissance fixe par rack à une répartition dynamique
Un pilier de MaxLPS est Dynamic Power Software (DPS), actuellement présenté par NVIDIA en version Developer Preview.
Ce système surveille la consommation électrique au niveau de l’installation, des groupes de ressources, racks, nœuds et GPU. Les opérateurs fixent des limites et politiques, et le logiciel compare en continu la puissance allouée à la consommation réelle du matériel.
Lorsqu’il détecte une capacité disponible, il peut la réaffecter dans le groupe géré.
Ce mécanisme évoque d’autres stratégies de répartition dynamique utilisées en informatique : réserver suffisamment de ressources pour garantir la stabilité, tout en exploitant statistiquement le fait que tous les composants n’atteignent pas leur maximum simultanément.
La différence ici, c’est que le partage porte sur des kilowatts.
NVIDIA illustre cela avec un scénario où le provisionnement statique laisse 170 kW inutilisés sur un budget total de 540 kW. La répartition dynamique permettrait de récupérer cette marge, sans augmenter la puissance totale de l’installation, et d’ajouter un autre rack.
La limite électrique globale reste inchangée.
Il n’y a pas non plus d’augmentation de l’électricité disponible.
Ce qui évolue, c’est l’utilisation efficiente de la capacité existante.
Ce point est crucial car le système ne peut pas déroger aux limites physiques du centre. Si tous les racks demandent simultanément leur puissance maximale, il n’y a pas de marge à partager. Le bénéfice dépendra du comportement effectif des charges et de la capacité à faire coïncider leurs pics.
GB200 et Vera Rubin illustrent à quel point la densité peut évoluer
NVIDIA fournit des résultats sur des charges représentatives d’inférence pour démontrer cet effet.
Avec GB200 NVL72 et Kimi-K2.5, MaxLPS réduit lors de ses tests la puissance provisionnée par rack de 125 à 90 kW, tout en conservant le débit de traitement. Cela permettrait d’installer 39 % de racks supplémentaires dans la même limite énergétique.
Pour Vera Rubin NVL72 exécutant DeepSeek-R1, la puissance provisionnée baisse de 136 à 101 kW, ce qui permettrait d’ajouter environ 35 % de racks en plus.
La société indique par ailleurs une amélioration du rendement énergétique d’environ 1,5 fois sur GB200 NVL72, et entre 1,3 et 1,4 fois sur Vera Rubin NVL72 dans ces scénarios. Ces chiffres représentent des projections spécifiques à certains cœurs de charge et ne constituent pas une amélioration automatique pour toutes les applications ou centres.
NVIDIA complète ces calculs lorsqu’elle associe MaxLPS à une planification électrique et thermique globale pour une future installation Vera Rubin.
Selon ses estimations, un centre de données de 100 MW pourrait accueillir jusqu’à 40 000 GPU Rubin et atteindre des capacités telles que :
| Capacité estimée par NVIDIA | Centre IA de 100 MW |
|---|---|
| Inférence NVFP4 | 2 zettaFLOPS |
| Entraînement NVFP4 | 1,4 zettaFLOPS |
| Mémoire HBM4 | 11 PB |
| Bande passante HBM4 | 800 PB/s |
| Potentiel d’extension GPU | Jusqu’à 40 % |
Ce 40 % doit être compris comme l’objectif maximal projeté par NVIDIA, en combinant plusieurs mesures, et non comme une propriété intrinsèque de chaque rack Rubin.
Le refroidissement liquide à 45 °C peut permettre des économies d’énergie
La seconde partie de la proposition paraît initialement contradictoire : utiliser un liquide plus chaud pour améliorer le refroidissement d’un centre de données.
Vera Rubin NVL72 est conçue pour fonctionner avec un refroidissement liquide à une température d’entrée pouvant atteindre 45 °C.
L’objectif n’est pas de refroidir davantage le processeur, mais de réduire la quantité d’énergie nécessaire pour dissiper cette chaleur en dehors du bâtiment.
Lorsque le circuit fonctionne à des températures plus élevées, le nombre d’heures durant lesquelles une installation peut recourir au refroidissement extérieur ou au free cooling sans utiliser de compresseurs ou de refroidisseurs intensifs augmente.
Le résultat dépend fortement du climat local et du design précis de chaque installation.
Une infrastructure située dans une région froide pourra davantage tirer parti de ces stratégies que celle construite dans un environnement chaud la majorité de l’année.
L’utilisation de l’eau est également un facteur. NVIDIA affirme qu’un design adapté peut diminuer la dépendance au refroidissement évaporatif, souvent « gourmand » en eau, sans pour autant que les data centers Rubin doivent forcément se passer de refroidisseurs ou systèmes évaporatifs.
L’idée est de n’y recourir que lorsque les conditions le justifient réellement.
Chaque kilowatt économisé sur la refroidissement reste disponible pour les serveurs, à condition que l’infrastructure électrique et thermique ait été conçue dans cette optique.
Le logiciel vise aussi à maximiser les tokens produits par watt
MaxLPS ne se limite pas à l’installation électrique.
NVIDIA introduit des profils nommés Workload Profile Power Solutions (WPPS) pour adapter le fonctionnement des GPU selon différents types de charges, notamment entraînement, inférence, tâches limitées en mémoire ou dominée par la capacité de calcul.
Le Application Performance and Power Manager applique les configurations appropriées, et NVIDIA Dynamo peut intervenir dans la gestion de services d’inférence distribués.
L’objectif est d’éviter une configuration électrique uniforme pour des charges qui ont des comportements très différents.
Dans le cadre de l’inférence, NVIDIA propose de mesurer le nombre de tokens par seconde et par watt. Cette métrique relie directement la consommation au travail effectué, mais ne doit pas être évaluée isolément : la latence, la qualité de service, et le coût de l’infrastructure restent essentiels.
Pour un fournisseur d’IA, produire plus de tokens avec le même mégawatt permettrait d’accroître la capacité commerciale sans attendre une augmentation de la puissance électrique souscrite.
Et cette ambition prend aujourd’hui une importance croissante.
L’électricité commence à déterminer la taille réelle des clusters d’IA
Au début de la croissance de l’IA générative, la pénurie la plus visible concernait les GPU.
Obtenir des accélérateurs étaient le problème majeur.
Aujourd’hui, les limitations concernent aussi la puissance électrique, la capacité du réseau, les transformateurs, la refroidissement, le terrain, et le temps nécessaire à la construction de nouvelles infrastructures.
Une entreprise peut disposer du capital pour acheter davantage de GPU, mais sans pouvoir les connecter au réseau électrique.
La stratégie de NVIDIA vise précisément à répondre à cette problématique.
Si un centre de données met des années à atteindre 100 MW supplémentaires, optimiser l’utilisation des mégawatts existants à hauteur de 20 %, 30 % ou 40 % peut représenter une valeur économique considérable.
Cela modifie aussi la façon de mesurer l’infrastructure.
Le nombre de GPU reste important, mais deux centres ayant la même puissance et équipés des mêmes accélérateurs peuvent produire des volumes de travail très différents si l’un nécessite plus d’électricité pour la refroidissement, conserve des réserves plus importantes inutilisées, ou exécute ses charges avec une configuration énergétique moins efficiente.
C’est pourquoi NVIDIA emploie de plus en plus le concept de usine d’IA ou « AI factory » : elle considère le centre de données comme une installation industrielle où la production est mesurée en tokens et autres résultats de calcul.
Ce vocabulaire commercial traduit un changement concret dans la planification de ces installations.
Design pour les GPU qui arriveront demain
Une autre idée de MaxLPS concerne directement la construction de futurs centres.
NVIDIA recommande de dimensionner dès le départ l’alimentation, le refroidissement, l’espace et les communications pour accueillir la capacité maximale de racks que l’installation pourrait héberger sur toute sa durée de vie, même si tous ne sont pas installés dès le début.
Le raisonnement : l’évolution des charges.
Un centre dédié principalement à l’entraînement peut commencer avec une consommation moyenne élevée par rack. Si l’activité de l’inférence augmente et la consommation moyenne diminue, il pourrait rester du potentiel pour ajouter du matériel sans augmenter la puissance souscrit.
Pour cela, il faut que l’espace, la distribution électrique, la refroidissement et la capacité réseau soient conçus en conséquence.
Modifier ces éléments après construction est souvent complexe et coûteux.
MaxLPS vise à faire en sorte que la limite électrique soit gérée à une échelle globale, pas simplement par rack ou GPU.
Ce concept reste à tester à grande échelle.
Dynamic Power Software et DSX Exchange sont actuellement en Developer Preview, et la majorité des chiffres liés à Vera Rubin sont des projections de NVIDIA pour des futurs matériels et centres. Ils ne doivent pas être confondus avec des résultats d’installations commerciales déjà exploitées.
Néanmoins, le problème qu’il cherche à résoudre est bien réel.
Les prochains centres d’IA disposeront de GPU capables d’effectuer des milliards d’opérations et de mémoires HBM avec des débits en téraoctets par seconde. Rien de tout cela n’a de sens si l’infrastructure électrique n’est pas en mesure de les alimenter durablement.
La prochaine évolution dans l’infrastructure d’IA pourrait donc se mesurer moins en nombre de GPU achetables, et davantage en tokens générés par chaque mégawatt reçu par le centre.
Questions fréquentes
Qu’est-ce que NVIDIA DSX MaxLPS ?
DSX MaxLPS est un ensemble de technologies NVIDIA visant à gérer conjointement la puissance, la configuration des GPU, le refroidissement, et la conception des centres. Son objectif est d’accroître la quantité de travail d’IA produite dans une limite d’énergie fixée.
MaxLPS peut-il installer 40 % de GPU en plus sans augmenter la consommation électrique ?
NVIDIA prévoit jusqu’à 40 % de capacité Rubin supplémentaire lorsque MaxLPS est combiné à une planification adaptée. Il s’agit d’une estimation maximale, dépendant des charges, de la conception et du design électrique et thermique.
Pourquoi Vera Rubin utilise-t-elle un refroidissement liquide à 45 °C ?
Utiliser un liquide plus chaud permet de faciliter le recours au refroidissement extérieur ou au free cooling, et de réduire le nombre d’heures où des systèmes mécaniques sont activés. L’économie réelle dépend du climat et du design précis de chaque installation.
Qu’est-ce que Dynamic Power Software ?
Il s’agit du système NVIDIA qui surveille la consommation électrique et ajuste la répartition de la capacité électrique entre groupes, racks, nœuds et GPU selon des politiques et limites prédéfinies. Actuellement en Developer Preview.
Sources : developer.nvidia.com