NVIDIA Spectrum-6 double le réseau Ethernet pour les usines d’IA Rubin

NVIDIA Spectrum-6 double le réseau Ethernet pour les usines d'IA Rubin

NVIDIA a commencé le déploiement de Spectrum-6, sa nouvelle génération de commutateurs Ethernet pour centres de données axés sur l’intelligence artificielle. Le système atteint une capacité agrégée de 102,4 térabits par seconde (Tbps), soit le double de celle de la génération précédente, et fait partie de la plateforme Vera Rubin, conçue pour connecter des installations comprenant des dizaines ou des centaines de milliers d’accélérateurs.

Les points clés de NVIDIA Spectrum-6 en 30 secondes

  • Spectrum-6 offre une capacité de commutation de 102,4 Tbps, le double de celle de son prédécesseur.
  • CoreWeave, Microsoft, Nebius, SpaceXAI et Tesla figurent parmi ses premiers utilisateurs.
  • Le système combine des commutateurs avec les cartes ConnectX-9 et le logiciel Spectrum-X.
  • Il prend en charge des optiques modulaires et co-marquées, ainsi que la refroidissement liquide.
  • NVIDIA affirme que sa plateforme maintient jusqu’à 95 % d’efficacité dans des réseaux comptant plus de 100 000 GPU.

Cette annonce illustre à quel point le réseau devient aussi essentiel que les unités de traitement graphique (GPU). Dans un cluster conventionnel, un serveur peut exécuter une grande partie d’une application sans communiquer constamment avec des milliers d’autres machines. Cependant, l’entraînement de grands modèles et certaines charges d’inférence distribuée fonctionnent différemment.

Les accélérateurs échangent en continu des données pour synchroniser les paramètres, répartir les tâches et réaliser des opérations collectives. Si un lien devient congestionné ou introduit une latence supérieure à celle prévue, cela peut ralentir l’ensemble du système. L’ajout de GPU supplémentaires ne se traduit plus automatiquement par plus de performances lorsque l’infrastructure ne peut pas les alimenter et les coordonner efficacement.

Spectrum-6 vise à atténuer ce problème tout en renforçant la position de NVIDIA dans une partie du centre de données où elle concurrence les fabricants de puces réseau, les fournisseurs de commutateurs et les solutions basées sur InfiniBand.

Une capacité de 102,4 Tbps pour connecter des clusters à grande échelle

Les 102,4 Tbps annoncés représentent la capacité totale de commutation du système ou de la puce, et non la vitesse disponible pour une seule connexion. Ce détail est important, car ce chiffre peut prêter à confusion avec la vitesse d’un port individuel.

Cette capacité agrégée permet de construire des commutateurs dotés d’un grand nombre d’interfaces haute vitesse, facilitant le déplacement simultané de plus de trafic entre serveurs. NVIDIA n’a pas encore détaillé toutes ses configurations commerciales dans cette annonce, mais Spectrum-6 est conçu pour les réseaux d’expansion horizontale, ou scale-out, qui connectent différents racks et domaines de calcul au sein d’une infrastructure IA.

L’entreprise assure que cette génération double la capacité de ses systèmes précédents. Ce gain s’accompagne de la croissance des clusters et d’un plus grand débit nécessaire pour chaque accélérateur. Au fur et à mesure que les GPU traitent davantage de données, le réseau doit évoluer en parallèle pour éviter que la capacité de calcul ne reste sous-utilisée.

CoreWeave, Microsoft et Nebius figurent parmi les premiers fournisseurs cloud à déployer l’infrastructure Vera Rubin avec Spectrum-6. NVIDIA mentionne également Tesla et SpaceXAI parmi les organisations qui intégreront cette nouvelle technologie.

Pour le moment, il s’agit de engagements et de plans communiqués par NVIDIA. La société n’a pas précisé le nombre de commutateurs que chaque client installera, ni les dates exactes de mise en service ou l’investissement associé à ces projets.

Spectrum-X adapte Ethernet au trafic de l’intelligence artificielle

Ethernet est né et a évolué principalement pour relier les réseaux professionnels, serveurs, espaces de stockage et utilisateurs. Bien qu’utilisée depuis des années dans la supercalcul et les centres de données haute performance, la charge de travail IA à grande échelle présente des motifs très exigeants.

Une grande partie de ce trafic circule d’est en ouest, c’est-à-dire entre serveurs situés dans le même centre de données. De plus, de nombreux accélérateurs peuvent transmettre simultanément vers d’autres nœuds lors d’opérations collectives telles qu’all-reduce ou all-to-all. Ces scénarios augmentent les risques de congestion, de pertes de paquets et de déséquilibres dans les routes de communication.

Spectrum-X est la proposition de NVIDIA pour adapter Ethernet à ces contextes. Ce n’est pas seulement un commutateur, mais une plateforme combinant le chipset Spectrum-6, les cartes réseau ConnectX-9 SuperNIC et une couche logicielle qui gère le trafic, sélectionne les chemins et répond aux défaillances.

Selon la société, ce système répartit le flux de données entre plusieurs chemins disponibles, évite les liens congestionnés et récupère précisément les données perdues. Il supporte aussi différents modèles de transport via l’accès direct à la mémoire (RDMA), une technologie permettant de transférer des données plus rapidement et avec moins d’intervention de la CPU.

NVIDIA affirme que Spectrum-X peut offrir jusqu’à 1,6 fois plus de performance réseau pour l’IA qu’une infrastructure Ethernet traditionnelle et maintenir une efficacité pouvant atteindre 95 % dans les déploiements de plus de 100 000 GPU. Ces chiffres, fournis par le fabricant, peuvent varier en fonction de la topologie, du modèle de trafic, du logiciel et de la configuration du cluster.

Ce même argument a été avancé lors de la présentation du réseau de l’ordinateur super Colossus de xAI. À cette occasion, NVIDIA avançait que Spectrum-X atteignait un rendement de 95 % contre 60 % pour un Ethernet standard dans des conditions similaires.

Optique co-marquée et refroidissement liquide

Spectrum-6 sera disponible avec des modules optiques connectables ainsi qu’avec optique co-marquée, appelée CPO pour co-packaged optics.

Dans les systèmes traditionnels, les transceivers optiques sont insérés à l’avant du commutateur. L’optique co-marquée rapproche les composants photoniques du circuit de commutation pour réduire la longueur des signaux électriques, limiter les pertes et améliorer l’efficacité énergétique.

Cette architecture gagne en importance à mesure que les débits réseau augmentent, mais pose aussi des défis liés à la maintenance, à la fabrication et au remplacement des composants. NVIDIA propose donc les deux options, au lieu de se limiter à la CPO.

La nouvelle plateforme supporte également la refroidissement liquide. Dans les clusters IA, la densité énergétique ne se limite pas aux GPU et CPU : les commutateurs, cartes réseau et modules optiques consomment aussi beaucoup d’électricité et génèrent de la chaleur. Leur intégration dans un même dispositif thermique permet de créer des racks plus compacts, mais exige d’adapter l’infrastructure du centre de données.

NVIDIA attribue à ses solutions photoniques une efficacité énergétique jusqu’à cinq fois supérieure, ainsi qu’une durée moyenne entre incidents dix fois meilleure comparé à d’autres alternatives. Ces chiffres proviennent du fabricant, et une évaluation précise dépendra des conditions de tests pour une application concrète.

Vera Rubin étend le contrôle de NVIDIA sur le centre de données

Spectrum-6 fait partie de Vera Rubin, la nouvelle plateforme succédant à Blackwell dans l’offre de NVIDIA. Elle rassemble la CPU Vera, la GPU Rubin, le commutateur NVLink 6, les cartes ConnectX-9, les unités de traitement BlueField-4 et les switches Ethernet Spectrum-6.

L’approche va au-delà de la simple vente d’accélérateurs : NVIDIA souhaite concevoir conjointement le calcul, l’interconnexion dans le rack, le réseau inter- racks, ainsi que le logiciel et la gestion de toute l’infrastructure.

Ce contrôle accru facilite la mise en œuvre de plateformes volumineuses, car tous les composants sont conçus pour fonctionner ensemble. Il accentue également la dépendance aux solutions NVIDIA, même si la société insiste sur le fait que Spectrum-X utilise Ethernet standard, des protocoles ouverts et des systèmes d’exploitation réseau tels que SONiC.

NVIDIA présente cette stratégie comme une intégration verticale compatible avec un écosystème horizontal de fabricants et de fournisseurs cloud. En pratique, les clients peuvent utiliser Ethernet et certains composants open source, mais une large partie des performances repose sur la synergie entre puces, cartes et logiciels NVIDIA.

L’arrivée de Spectrum-6 montre que la compétition dans l’IA ne se limite plus au nombre de GPU. Dans des installations avec des centaines de milliers d’accélérateurs, le coût par token et le temps d’entraînement dépendent de la capacité à faire collaborer efficacement ces dispositifs. La redondance réseau devient une extension du système de calcul lui-même.

Questions fréquentes

Qu’est-ce que NVIDIA Spectrum-6 ?

C’est la nouvelle génération de puces et de systèmes de commutation Ethernet de NVIDIA pour les grands centres de données IA. Elle offre une capacité totale de 102,4 Tbps et s’intègre dans la plateforme Vera Rubin.

Quelles entreprises utiliseront Spectrum-6 ?

NVIDIA a mentionné CoreWeave, Microsoft, Nebius, SpaceXAI et Tesla comme premiers clients ou utilisateurs anticipés, sans préciser le volume de déploiement pour chacun.

Spectrum-6 remplace-t-il InfiniBand ?

Pas nécessairement. NVIDIA maintient à la fois Spectrum-X Ethernet et son offre Quantum InfiniBand. Chaque technologie est adaptée à des architectures, besoins ou choix opérateurs différents.

Quand Vera Rubin sera-t-elle disponible ?

NVIDIA a présenté la plateforme Rubin en 2026 et a commencé à annoncer quelques déploiements. La disponibilité précise dépendra du système, du fabricant et du fournisseur cloud.

le dernier