NVIDIA a présenté ses premiers résultats de performance de Vera Rubin NVL72 selon MLPerf Inference v6.1, atteignant jusqu’à 3,7 fois plus de performances que GB300 NVL72 dans certains tests. La nouvelle plateforme montre également une efficacité de montée en charge de 99 % lors du passage d’un seul rack à quatre racks GB300 NVL72, tandis que des optimisations logicielles permettent d’augmenter le rendement jusqu’à 1,6 fois par rapport à la génération précédente du benchmark.

Les points clés de NVIDIA Vera Rubin NVL72 en 30 secondes

• Vera Rubin NVL72 atteint jusqu’à 3,7 fois la performance de GB300 NVL72 sur Qwen3-VL.
• Sur DeepSeek-R1, l’avantage déclaré peut atteindre 2,5 fois selon le scénario.
• GB300 NVL72 affiche une efficacité de montée en charge de 99 % avec 288 GPU répartis en quatre racks.
• Les optimisations logicielles ont permis jusqu’à 1,6 fois plus de performance comparé à MLPerf Inference v6.0.
• Les résultats de Vera Rubin sont encore en aperçu (prévisualisation), tandis que ceux de GPT-OSS-120B et DLRMv3 restent non vérifiés.

Les résultats de MLPerf Inference v6.1 placent Vera Rubin NVL72 comme la nouvelle plateforme de NVIDIA pour les charges d’inférence à l’échelle d’un rack. La première participation de Vera Rubin à ce benchmark utilise les modèles DeepSeek-R1 et Qwen3-VL, deux des tests intégrés dans cette nouvelle édition. MLCommons a publié ces résultats le 16 septembre 2026, en précisant que cette édition inclut également de nouveaux tests pour des scénarios d’IA agentique et de récupération augmentée.

La comparaison ne se limite pas à la puissance des GPU. NVIDIA attribue une partie des améliorations à la combinaison de l’architecture, de l’interconnexion et du logiciel d’inférence. Plus précisément, Vera Rubin utilise des techniques telles que disaggregated serving, qui sépare les phases de prefill et decode, ainsi que le parallélisme expert pour des modèles de type mixture of experts.

Vera Rubin arrive dans MLPerf avec jusqu’à 3,7 fois plus de performance

Dans les tests avec Qwen3-VL, Vera Rubin NVL72 affiche jusqu’à 3,7 fois la performance de GB300 NVL72 dans les scénarios offline, serveur et interactive. NVIDIA a utilisé vLLM combiné à son cadre d’inférence open source Dynamo pour ces tests.

Avec DeepSeek-R1, l’écart déclaré peut atteindre 2,5 fois par rapport à GB300 NVL72. Dans ce cas, NVIDIA a employé TensorRT-LLM, sa bibliothèque pour optimiser l’inférence de modèles de langage.

Les chiffres précis varient selon la charge. Dans le tableau de résultats publié par NVIDIA, Qwen3-VL montre une amélioration de 1,8 fois en scénario offline, 1,9 fois en serveur et 3,7 fois en interactive. Pour DeepSeek-R1, les performances sont de 1,7 fois, 1,9 fois et 2,5 fois dans ces mêmes scénarios.

L’écart entre scénarios est important, car mesurer uniquement la performance maximale d’une infrastructure ne reflète pas nécessairement sa capacité à répondre efficacement à des requêtes réelles. Le scénario offline vise à mesurer la performance agrégée maximale, tandis que les scénarios interactifs prennent en compte la latence.

MLCommons définit MLPerf Inference comme un benchmark conçu pour mesurer le rendement des systèmes d’inférence via des tests reproductibles et selon une méthodologie commune. La version 6.1 a aussi introduit de nouveaux tests pour des charges de travail plus complexes, notamment l’inférence agentique.

Les chiffres de Vera Rubin doivent être nuancés, car il s’agit de résultats en aperçu. NVIDIA présente ces résultats comme une première participation de la plateforme à MLPerf Inference 6.1, et ils ne doivent pas être considérés comme une mesure définitive de toutes les configurations possibles.

GB300 montre qu’ajouter des GPU peut aussi permettre une montée en charge quasi linéaire

Tandis que Vera Rubin incarne la nouvelle génération de résultats, NVIDIA a également utilisé MLPerf Inference v6.1 pour illustrer la performance de GB300 NVL72 en fonction du nombre de racks.

L’essai DeepSeek-R1 compare un seul rack avec 72 GPU à une configuration de quatre racks avec 288 GPU. Le résultat atteint une efficacité de montée en charge de 99 % dans le scénario offline. La table publiée indique 679 740 unités de performance pour un seul rack et 2 705 130 pour quatre racks.

En pratique, passer de 72 à 288 GPU quadruple le nombre d’accélérateurs, et les performances croissent presque dans la même proportion. L’efficacité de montée en charge mesure précisément dans quelle mesure l’augmentation de ressources se traduit par une hausse équivalente de performance.

Ce comportement dépend de plusieurs éléments. La performance d’une infrastructure avec des centaines de GPU n’augmente pas automatiquement en ajoutant plus d’accélérateurs : la communication GPU, le réseau entre racks, la gestion des requêtes et le logiciel de coordination peuvent introduire des pertes.

NVIDIA attribue en partie ce résultat à l’interconnexion NVLink du système NVL72. La sixth génération de NVLink et le NVLink Switch offrent une liaison à haute vitesse à l’intérieur du groupe de 72 GPU, tandis que d’autres technologies réseau prennent en charge la communication inter-systèmes.

Le logiciel joue un rôle majeur dans l’évolution des performances

Un autre point de l’édition 6.1 concerne les optimisations logicielles appliquées à GB300. NVIDIA affirme que la performance avec Qwen3-VL a été améliorée jusqu’à 1,6 fois par rapport à ses résultats sous MLPerf Inference v6.0.

Ces améliorations résident dans diverses modifications de la pile logicielle, comme une réduction de la précision pour la mémoire cache KV, de nouvelles fusion de kernels, des optimisations de composants et l’utilisation de disaggregated serving avec vLLM et NVIDIA Dynamo.

Cela explique pourquoi NVIDIA présente la performance d’une plateforme IA comme une combinaison d’hardware et de software. La même génération de GPU peut produire des résultats différents selon l’évolution des compilateurs, bibliothèques, kernels et gestionnaires de charge.

NVIDIA a également partagé des chiffres postérieurs à la présentation officielle des résultats MLPerf. Dans ses tableaux, figurent 124 552 tokens par seconde pour GPT-OSS-120B sur B300 x8 en scénario offline et 119 002 tokens par seconde en serveur. Concernant DLRMv3 sur B200 x8, les chiffres sont de 16 796 requêtes par seconde et 15 800 requêtes par seconde, respectivement.

Ces chiffres sont explicitement marqués comme résultats non vérifiés. NVIDIA précise qu’ils résultent d’optimisations faites après la clôture de la période de soumission MLPerf Inference v6.1, leur conférant un statut différent de celui des résultats validés dans le benchmark.

L’évolution logicielle influence aussi l’économie de l’inférence. Si une infrastructure produit plus de tokens avec le même hardware, une organisation peut répartir les coûts serveurs, réseau et énergie sur un volume de travail plus important. Le résultat final dépendra de la charge spécifique, du modèle utilisé et des conditions de service.

De benchmarks classiques à l’intelligence artificielle agentique

NVIDIA utilise également des tests orientés agents pour évaluer Vera Rubin. Lors d’évaluations préliminaires avec SemiAnalysis AgentX, citée par la société, Vera Rubin NVL72 aurait atteint 30 fois la performance de GB300 NVL72. Ce chiffre provient d’un aperçu différent de MLPerf Inference, et ne doit pas être confondu avec les résultats officiels.

Ce changement de focus répond à la capacité des agents IA à effectuer plusieurs opérations consécutives pour accomplir une tâche. Une application traditionnelle pourrait nécessiter une seule réponse du modèle, tandis qu’un agent peut raisonner, consulter des outils, récupérer des informations et réexécuter le modèle à plusieurs reprises.

MLCommons commence à refléter cette évolution dans ses propres benchmarks. Inference v6.1 introduit une épreuve nommée Edge Agentic Inference et prépare MLPerf Endpoints, une version évoluée pour mesurer les charges d’inférence via API et dans des scénarios plus proches du déploiement en production.

Pour NVIDIA, l’objectif est que la même infrastructure puisse gérer différents modèles et charges, allant de l’entraînement à l’inférence, en passant par la recommandation, le raisonnement ou la génération vidéo. Cette flexibilité maintient le matériel adaptable aux évolutions des besoins des applications.

Vera Rubin NVL72 intègre 72 GPU Rubin, 36 CPU Vera, ainsi que des composants réseau et traitement NVIDIA dans une architecture rack. La société la présente comme une plateforme destinée à la fois à des charges IA à grande échelle et à des systèmes agentiques.

Les résultats de MLPerf Inference v6.1 offrent une première référence publique pour cette nouvelle génération. La comparaison avec GB300 montre des améliorations notables dans certains types de charges, tandis que les tests de montée en charge soulignent que la génération précédente peut aussi maintenir un bon taux d’utilisation en passant d’un rack à quatre.

Reste à voir comment ces performances évolueront lorsque Vera Rubin sortira de la phase de prévisualisation et que de nouvelles plateformes seront évaluées avec davantage de modèles, de configurations et de charges représentatives de la production.

Questions fréquemment posées

Quelle est la différence de performance entre Vera Rubin NVL72 et GB300 NVL72 ?

Selon les résultats MLPerf Inference v6.1 publiés par NVIDIA, Vera Rubin NVL72 peut atteindre jusqu’à 3,7 fois la performance de GB300 NVL72 avec Qwen3-VL, et jusqu’à 2,5 fois avec DeepSeek-R1, selon le scénario.

Que signifie une efficacité de montée en charge de 99 % ?

Cela indique qu’en passant d’un seul rack avec 72 GPU à quatre racks avec 288 GPU, le rendement augmente quasi de manière linéaire, ou dans une proportion proche, dans le scénario offline.

Les résultats de Vera Rubin sont-ils définitifs ?

Non. NVIDIA a présenté ces résultats comme en aperçu. Les chiffres ultérieurs concernant GPT-OSS-120B et DLRMv3, également fournis par NVIDIA, ne sont pas encore vérifiés par MLCommons.

Quel rôle joue le logiciel dans ces améliorations ?

NVIDIA attribue une partie de ces progrès à des optimisations logicielles telles que des changements dans la précision de la mémoire cache KV, de nouvelles fusions de kernels, des optimisations de composants et l’utilisation de disaggregated serving via vLLM et NVIDIA Dynamo. Sur Qwen3-VL, ces améliorations peuvent atteindre 1,6 fois le rendement par rapport à MLPerf Inference v6.0.