NVIDIA étend la portée de NVLink Fusion, sa solution visant à intégrer des accélérateurs personnalisés ou XPU dans des infrastructures d’intelligence artificielle conçues autour de sa technologie. La société propose que les hyper-évolutaires et les développeurs de puces propriétaires puissent continuer à utiliser leurs processeurs tout en adoptant des éléments déjà développés par NVIDIA pour l’interconnexion, les CPU, les racks, la refroidissement, l’alimentation et la gestion de grands centres de données IA.

En 20 secondes, les clés de NVIDIA NVLink Fusion

• NVLink Fusion permet d’intégrer des XPU personnalisés dans l’infrastructure NVLink de NVIDIA.
• La sixième génération de NVLink supporte des domaines comprenant 72 accélérateurs, avec des configurations futures jusqu’à 1 152.
• NVIDIA garantit une latence entre XPU trois fois inférieure à celle des alternatives Ethernet classiques.
• Les fabricants peuvent réutiliser l’architecture MGX, la refroidissement, l’alimentation, les réseaux et les partenaires.
• Intel, MediaTek, GUC, Quanta et Annapurna Labs figurent parmi les partenaires cités par NVIDIA.

Ce mouvement est particulièrement pertinent compte tenu du contexte actuel. Les grands fournisseurs de cloud investissent de plus en plus dans le développement d’accélérateurs propres pour réduire les coûts, adapter le matériel à des charges spécifiques et diminuer leur dépendance aux GPU à usage général.

Google développe depuis des années ses TPU, AWS dispose de Trainium et Inferentia, et Microsoft a Maia. Meta travaille également sur sa famille MTIA. Parallèlement, des entreprises de semiconducteurs comme Broadcom et Marvell ont trouvé un potentiel croissant dans le design d’ASIC personnalisés pour les grands opérateurs d’infrastructures.

Il semble que NVIDIA prévoit que ce marché continuera à croître. Sa réponse avec NVLink Fusion vise à permettre à un accélérateur conçu hors de NVIDIA de dépendre en partie de l’infrastructure développée par NVIDIA.

NVLink s’ouvre à des accélérateurs autres que les GPU NVIDIA

Ce principe répond à un problème bien connu dans les grands systèmes IA : fabriquer un bon accélérateur n’est qu’une étape. La mise en production nécessite aussi la communication entre accélérateurs, l’intégration avec les CPU, la gestion des réseaux, la conception des racks, la refroidissement liquide, le stockage, la sécurité, les logiciels de gestion et une chaîne d’approvisionnement capable de produire des milliers de systèmes.

NVLink Fusion propose une partie de cette infrastructure comme une plateforme pour intégrer des processeurs personnalisés.

L’élément central reste NVLink, l’interconnexion haute vitesse que NVIDIA utilise pour faire fonctionner plusieurs accélérateurs comme un domaine de calcul étendu.

D’après les données de la société, la sixième génération de NVLink offre une communication rapide et à faible latence pour un domaine de 72 XPU. NVIDIA assure que les transferts entre XPU peuvent bénéficier d’une latence extrême à extrême trois fois moindre, et d’un débit de paquets dix fois supérieur aux solutions Ethernet classiques.

Ces chiffres sont fournis par NVIDIA et doivent être compris dans le contexte des configurations comparées, sans constituer une supériorité universelle face à toute architecture Ethernet.

L’entreprise prévoit aussi une évolution majeure de cette technologie, avec une feuille de route incluant des configurations NVLink pouvant atteindre 1 152 accélérateurs, ainsi que l’intégration de la fibre optique compacte.

La mise à l’échelle est crucial pour les modèles de type Mixture of Experts (MoE), systèmes avec des milliards de paramètres et applications à agent unique. Lorsqu’il faut échanger en permanence d’importantes quantités d’informations entre accélérateurs, la performance de l’interconnexion peut devenir un facteur limitant dans l’utilisation du silicium.

NVIDIA vise aussi les centres de données avec ses propres XPU

NVLink Fusion a une dimension stratégique qui dépasse le simple aspect technique.

Depuis des années, la croissance de NVIDIA dans le domaine de l’IA dépend fortement de la vente de ses propres GPU. La fabrication de puces personnalisées ouvre une nouvelle perspective : un hyper-évolutaire pourrait choisir d’utiliser un ASIC spécifiquement conçu pour certaines charges, plutôt que d’acheter un autre accélérateur NVIDIA.

NVLink Fusion permet à NVIDIA de participer à cette infrastructure, même si le processeur principal est conçu par une autre entreprise.

Le fabricant propose plusieurs options. Un XPU personnalisé peut se connecter au domaine NVLink et aussi utiliser NVLink-C2C pour communiquer avec les CPU Vera de NVIDIA ou d’autres processeurs compatibles dans l’écosystème.

NVIDIA revendique une efficacité énergétique jusqu’à six fois supérieure avec NVLink-C2C comparé à une interface PCIe pour cette communication, bien que cette comparaison soit faite selon ses propres conditions de référence.

La liste des partenaires mentionnés par NVIDIA pour NVLink Fusion illustre la volonté d’étendre ce modèle :

• Intel en tant que fournisseur d’architectures CPU et de technologies.
• MediaTek et GUC impliqués dans le développement d’ASIC personnalisés.
• Quanta en fabrication et intégration.
• Annapurna Labs, filiale d’Amazon, apportant un appui public.

La présence de cette dernière est stratégique, étant donné qu’Amazon Web Services est l’un des leaders du développement de silicon propre pour l’IA.

NVLink Fusion propose ainsi une couche intermédiaire : utiliser un accélérateur propriétaire sans devoir développer toute l’infrastructure autour.

Le rack devient une plateforme commune

Et cette logique ne s’arrête pas à NVLink. NVIDIA souhaite aussi standardiser le concept au niveau du rack, puis du centre de données.

Les systèmes avec XPU peuvent tirer parti de l’architecture NVIDIA MGX et de composants issus de la chaîne d’approvisionnement utilisée pour des plateformes comme Vera Rubin NVL72. Cela inclut racks, refroidissement, alimentation électrique et futurs design à 800 volts en courant continu.

NVIDIA argumente que cette compatibilité permettrait de construire des installations même avant de connaître précisément la configuration des accélérateurs déployés.

Un point crucial, car les délais pour un centre de données diffèrent grandement de ceux du développement du silicium. La livraison d’électricité, la conception du refroidissement ou la construction peuvent prendre plusieurs années, alors que les générations d’accélérateurs évoluent beaucoup plus vite.

Avec une architecture commune, NVIDIA envisage que GPU et XPU partagent des caractéristiques physiques du rack, la refroidissement, l’alimentation, les réseaux et la gestion. Le gestionnaire pourrait ensuite ajuster la proportion de chaque type de processeur en fonction des tâches ou de la disponibilité du matériel.

L’approche se prolonge via NVIDIA DSX et son plan d’étage basé sur l’Omniverse, permettant de modéliser en digital des installations IA de grande échelle avant leur réalisation.

Dans les racks types, NVIDIA privilégie aussi la refroidissement liquide intégral et les blocs démontables pour la maintenance, sans affecter l’ensemble du système.

Le logiciel complète cette vision. NCCL gère les charges distribuées dans l’environnement NVIDIA, tandis que Dynamo et NIXL s’adressent aux architectures désagrégées. Mission Control supervise clusters, télémetrie et outils de diagnostic.

Cette stratégie ouvre une nouvelle voie pour NVIDIA. Si les hyper-évolutaires augmentent leur utilisation de processeurs propriétaires, NVIDIA peut leur proposer l’infrastructure connectée à ces puces, alimentée, refroidie et gérée par ses solutions.

Ce contexte explique aussi pourquoi NVLink Fusion pourrait jouer un rôle clé dans l’évolution des activités de la société. NVIDIA ne se limite pas à décider quel accélérateur réalise les calculs, elle souhaite aussi que son architecture reste présente autour du processeur, même si celui-ci porte une marque étrangère.

Questions fréquentes

Qu’est-ce que NVIDIA NVLink Fusion ?

NVLink Fusion est une plateforme permettant d’intégrer des accélérateurs personnalisés ou XPU dans l’écosystème d’interconnexion et d’infrastructure de NVIDIA. Les fabricants peuvent conserver leurs propres siliciums tout en utilisant des composants comme NVLink, des CPU compatibles, l’architecture MGX et d’autres éléments pour le rack.

NVLink Fusion oblige-t-elle à utiliser des GPU NVIDIA ?

Non, pas nécessairement. Son objectif est justement de permettre l’intégration de XPU conçus par des tiers dans une infrastructure utilisant des technologies NVIDIA.

Combien d’accélérateurs NVLink peut-on connecter ?

La sixième génération supporte des débits pour 72 XPU. La feuille de route prévoit des configurations allant jusqu’à 1 152 accélérateurs et l’intégration de la fibre optique compacte.

Pourquoi NVLink Fusion est-elle importante pour NVIDIA ?

Parce qu’elle permet à NVIDIA de participer à des centres de données où les grands fournisseurs cloud utilisent de plus en plus de puces personnalisées. Même si l’accélérateur n’est pas une GPU NVIDIA, d’autres éléments de l’infrastructure pourraient continuer à utiliser sa technologie.

Sources : blogs.nvidia