OpenNebula valide sa virtualisation pour NVIDIA GB200 NVL72

OpenNebula valide sa virtualisation pour NVIDIA GB200 NVL72

OpenNebula a terminé la validation de sa plateforme dans le cadre du programme de hyperviseurs de NVIDIA pour les systèmes GB200 NVL72. Une étape visant à démontrer que les charges de travail en intelligence artificielle peuvent s’exécuter sur des machines virtuelles tout en bénéficiant d’un accès direct aux GPU. Cette initiative cherche à répondre à une question de plus en plus cruciale dans les infrastructures IA : comment préserver les avantages opérationnels du cloud sans devoir exclusivement faire tourner des accélérateurs sur du bare metal.

Les points clés d’OpenNebula et NVIDIA GB200 NVL72 en 20 secondes

  • OpenNebula a validé sa plateforme de virtualisation pour les systèmes NVIDIA GB200 NVL72.
  • L’architecture utilise PCI passthrough pour assigner directement GPU et autres dispositifs aux machines virtuelles.
  • L’objectif est de combiner isolation, automatisation et multi-locataires avec un accès direct au matériel accélérateur.
  • OpenNebula affirme être actuellement la seule plateforme cloud européenne certifiée dans le cadre de ce programme NVIDIA.
  • Cette intégration fait partie de leur offre pour les AI Factories, HPC et fournisseurs d’infrastructures GPU.

La validation est d’intérêt car elle intervient à un moment où les GPU modifient certaines approches traditionnelles en architecture. Depuis des années, les charges de calcul haute performance (HPC) et plus tard l’intelligence artificielle privilégiaient le bare metal afin d’éviter toute couche pouvant réduire les performances ou introduire de la latence.

Cependant, renoncer à la virtualisation signifie aussi abandonner des outils qui facilitent la gestion des infrastructures cloud : séparation des locataires, provisioning automatisé, politiques de ressources, gestion centralisée et cycles de vie indépendants pour chaque charge de travail.

L’évolution du matériel et des technologies comme PCI passthrough permettent de concilier ces besoins.

Une machine virtuelle avec un accès direct au GPU

La solution technique essentielle est PCI passthrough.

Dans une virtualisation classique, certains dispositifs peuvent rester derrière des couches d’émulation ou d’abstraction. Avec passthrough, un dispositif PCIe physique peut être alloué directement à une machine virtuelle, permettant au système invité d’interagir avec lui.

Appliqué à une GPU, cela signifie que la VM maintient ses fonctions d’isolation et de gestion, tout en ayant un accès direct à l’accélérateur pour la charge en cours.

Cela est particulièrement pertinent pour l’IA et le HPC, où les applications nécessitent un transfert élevé de données et une communication efficace entre CPU, GPU, stockage et réseau.

OpenNebula vise ainsi à offrir une voie vers l’accélérateur aussi proche que celle d’un déploiement bare metal, tout en conservant un modèle opérationnel virtuel.

Pour un fournisseur cloud ou une entreprise gérant des centaines de GPU, cette différence peut être significative.

Le défi ne consiste plus uniquement à maximiser la performance de chaque accélérateur. Il s’agit aussi de gérer la répartition des ressources, d’isoler les clients, d’automatiser les déploiements, de contrôler les quotas et de désactiver les environnements obsolètes.

C’est précisément dans ce contexte que la virtualisation retrouve de l’intérêt, même dans les infrastructures centrées sur les GPU.

NVIDIA GB200 NVL72 : une nouvelle ampleur pour le problème

La validation porte sur NVIDIA GB200 NVL72, une architecture conçue pour les charges d’IA à grande échelle.

Ces systèmes intègrent plusieurs accélérateurs Blackwell et processeurs Grace, connectés via NVLink. L’idée est que de nombreux accélérateurs puissent fonctionner comme un vaste domaine de calcul dédié à l’entraînement et à l’inférence de modèles de grande taille.

Gérer ce type d’infrastructure comme une collection de serveurs traditionnels devient de plus en plus peu pratique lorsque celle-ci doit être partagée entre différents projets ou clients.

D’où l’émergence, autour des AI Factories, d’une couche logicielle dédiée à la gestion unifiée de la calculabilité, des GPU, des réseaux et du stockage.

OpenNebula positionne sa plateforme précisément à ce niveau.

La société la présente comme une plateforme ouverte et neutre vis-à-vis des fournisseurs, capable de construire des AI Factories multi-locataires, des services GPU pour le cloud de nouvelle génération, les HPC, et les opérateurs télécoms.

Sa compatibilité avec NVIDIA dépasse le simple GB200 NVL72. OpenNebula mentionne la compatibilité ou l’intégration avec des technologies telles que NVLink, NVSwitch, les unités de traitement de données BlueField (DPU), Spectrum-X Ethernet et InfiniBand. Elle propose également une intégration avec NVIDIA Run:ai pour la gestion et la répartition des ressources GPU sous Kubernetes.

Virtualisation et bare metal : une coexistence en pleine évolution dans les AI Factories

La validation témoigne aussi d’un changement dans la gestion des infrastructures IA.

Dans les premiers grands clusters GPU, maximiser la performance pouvait justifier une configuration très rigide. Le serveur était dédié à une seule charge, le logiciel s’installant directement sur le système d’exploitation.

Ce modèle reste pertinent pour certains scénarios, notamment quand une organisation doit consacrer toute la machine à une seule tâche durant de longues périodes.

Mais les besoins des environnements commerciaux sont souvent différents.

Un fournisseur cloud de GPU doit pouvoir servir plusieurs entreprises en simultané. Un centre de recherche peut répartir ses accélérateurs entre plusieurs projets. Une organisation peut désirer des environnements isolés pour l’entraînement, l’inférence, le développement ou l’expérimentation.

L’utilisation de machines virtuelles permet de créer ces séparations sans devoir dédier une infrastructure entièrement différente à chaque utilisateur.

OpenNebula propose aussi d’autres options pour la distribution d’accélérateurs. Sa plateforme supporte NVIDIA MIG (Multi-Instance GPU) et les technologies vGPU, qui permettent de diviser certains GPU lorsque l’allocation d’un accélérateur complet n’est pas nécessaire.

Cela introduit plusieurs schémas.

Les charges exigeantes peuvent recourir à des GPU complets via passthrough. D’autres services partagent des accélérateurs via des mécanismes de partitionnement. Et les nœuds peuvent continuer à faire partie d’une infrastructure gérée par une couche cloud commune.

Cette flexibilité est précieuse pour optimiser l’utilisation des GPU, l’un des actifs les plus coûteux dans les nouvelles plateformes d’IA.

Une initiative européenne dans le programme de NVIDIA

OpenNebula apporte aussi une dimension européenne à cette avancée.

La société affirme être actuellement la seule plateforme cloud européenne validée dans le cadre du NVIDIA AI Cloud-Ready ISV Program. Son documentation précise que l’intégralité de sa pile d’infrastructure cloud a été certifiée pour NVIDIA GB200 NVL72.

Il est important de noter que cette affirmation concerne ce programme spécifique et ne signifie pas qu’OpenNebula est la seule technologie européenne compatible avec les GPU NVIDIA, ni la seule utilisée dans des infrastructures IA.

Pour l’Europe, disposer de couches de gestion locales revêt aussi une importance croissante dans le contexte des projets IA souveraine et AI Factories.

Le matériel peut venir de NVIDIA ou d’autres fabricants internationaux, mais la couche qui administre utilisateurs, machines virtuelles, Kubernetes, réseaux, stockage et politiques détermine aussi qui contrôle opérationnellement l’infrastructure.

OpenNebula souhaite ainsi occuper cette place avec une plateforme ouverte, adaptable à l’infrastructure privée, aux centres HPC, aux opérateurs et fournisseurs cloud.

L’objectif est d’éviter la dépendance technologique tout en gardant la maîtrise de l’infrastructure et du logiciel. Ce sont des enjeux commerciaux pour OpenNebula, mais aussi un aspect central dans le débat européen sur la souveraineté technologique et la capacité à exploiter ses propres infrastructures d’IA.

La validation sur GB200 NVL72 constitue une preuve technique supplémentaire pour couvrir l’un des scénarios les plus exigeants.

Elle illustre aussi une tendance plus large : le bare metal et la virtualisation ne sont plus nécessairement antagonistes en IA.

Quand la GPU peut être allouée directement à une VM, la réflexion se déplace vers le niveau requis d’isolation, d’automatisation, la possibilité de partage des ressources, et l’impact réel de chaque architecture.

Dans des AI Factories pouvant rassembler des milliers d’accélérateurs et de nombreux utilisateurs, une gestion efficace de ces GPU peut devenir aussi critique que leur disponibilité même.

Questions fréquemment posées

Qu’a validé NVIDIA pour OpenNebula ?

OpenNebula a terminé la validation de sa plateforme pour l’infrastructure accélérée NVIDIA, y compris son déploiement sur systèmes NVIDIA GB200 NVL72 dans le cadre du programme NVIDIA correspondant.

Comment une machine virtuelle peut-elle accéder directement à une GPU ?

Grâce à PCI passthrough, le dispositif PCIe peut être attribué directement à la VM. Le système invité peut ainsi accéder au matériel tout en maintenant ses fonctions d’isolation et de gestion.

OpenNebula oblige-t-elle à virtualiser toutes les charges d’IA ?

Non. La plateforme est conçue pour gérer différents modèles d’infrastructure, y compris la virtualisation, le bare metal, et Kubernetes, avec des technologies de partage ou de partitionnement des GPU.

OpenNebula est-elle la seule plateforme européenne certifiée par NVIDIA ?

OpenNebula affirme être actuellement la seule plateforme cloud européenne validée via le NVIDIA AI Cloud-Ready ISV Program. Cette affirmation concerne ce programme précis et ne doit pas être interprétée comme une exclusivité totale sur les technologies NVIDIA en Europe.

le dernier