Broadcom a présenté VMware AI Factory, une nouvelle couche d’infrastructure et de services sur VMware Cloud Foundation (VCF) conçue pour déployer l’intelligence artificielle dans des clouds privés. Cette solution automatise tout le processus, depuis la préparation des serveurs physiques jusqu’au déploiement de modèles d’inférence, en incluant des outils pour partager des GPU, gérer des modèles et mesurer la consommation de ressources et de tokens. Selon le fabricant, le délai initial pourrait passer de plusieurs semaines à quelques heures, mais cette estimation dépend de chaque infrastructure.
Les points clés de VMware AI Factory en 30 secondes
- VMware AI Factory automatise le déploiement, du serveur physique aux services d’inférence.
- VCF permet de partager des GPU et des modèles entre différents départements via des environnements isolés.
- Un nouveau AI Gateway gèrera l’accès, la consommation de tokens, l’autorisation et la sélection entre modèles locaux ou cloud.
- Broadcom prépare des environnements isolés pour exécuter de manière contrôlée le code généré par des agents d’IA.
- La plateforme supporte plus de 150 modèles et étend ses options matérielles avec AMD Instinct et ROCm.
L’annonce faite lors de VMware Explore 2026 illustre clairement la vision de Broadcom pour son activité cloud privé. VMware ne se limite plus à la virtualisation des serveurs ou à la fourniture de Kubernetes : la société veut que VCF puisse aussi gérer l’infrastructure physique, les accélérateurs et les modèles constituant une plateforme business d’IA.
L’aspect économique occupe également une place importante. Broadcom utilise le terme AI tokenomics pour décrire le coût de production des tokens et l’exécution d’inférences. Contrairement au modèle classique de paiement à la consommation auprès d’un fournisseur externe, une entreprise pourrait acquérir une infrastructure et répartir sa capacité entre différents modèles et départements.
Cela ne signifie pas que l’infrastructure privée soit automatiquement plus économique. La utilisation effective des GPU, leur coût, l’électricité, le refroidissement, l’exploitation et la mise à jour technologique déterminent le vrai coût. VMware AI Factory tente précisément d’agir sur cette variable : maximiser la capacité de partage et d’utilisation continue de l’infrastructure disponible.
De l’installation des serveurs à la mise en service du premier modèle
Broadcom résume l’un des enjeux actuels de l’IA d’entreprise comme étant le parcours du metal to model : tout ce qui se passe entre un serveur physique et une application capable d’envoyer des requêtes à un modèle opérationnel.
Il existe de nombreux composants entre ces deux extrémités :
Il faut configurer serveurs et firmware, installer la virtualisation, préparer réseaux et stockage, déployer Kubernetes si nécessaire, configurer les drivers GPU, installer les runtimes d’inférence, et enfin déployer et superviser les modèles.
VMware AI Factory vise à automatiser une partie significative de cette étape.
Broadcom indique que les capacités d’automatisation de VCF peuvent réduire de semaines à quelques heures le délai entre le déploiement de serveurs bare-metal et la mise en route du premier modèle. L’annonce ne fournit pas de comparatif précis pour toutes les situations, mais cette durée constitue l’objectif que vise cette architecture, non une garantie universelle.
Une nouvelle composante pour étendre cette automatisation jusqu’au hardware provient de MetalSoft.
Broadcom annonce une collaboration visant à intégrer leur technologie de provisioning des serveurs physiques avec VCF. L’objectif est que les administrateurs puissent préparer ou réinstaller des serveurs de différents fabricants depuis la même console VMware, évitant ainsi d’utiliser des outils disparates.
MetalSoft promet de réduire drastiquement, de plusieurs semaines à quelques minutes, le temps nécessaire pour certaines opérations de provisioning bare-metal.
Ce choix est stratégique car une large part de l’automatisation dans le cloud démarre une fois le hardware prêt. VMware AI Factory cherche à étendre ce même mode opératoire jusqu’aux serveurs physiques.
Partager GPU et modèles pour optimiser l’économie de l’inférence
L’autre facette de VMware AI Factory concerne l’utilisation des GPU.
Dédier une unité complète d’accélérateurs à chaque département ou modèle peut s’avérer coûteux si les charges ne maximisent pas leur utilisation continue.
VCF vise à regrouper et partager les ressources GPU entre différentes charges de travail.
Broadcom introduit également Multi-tenant Model Sharing. Model Runtime permettra de partager des modèles entre différents départements ou tenants via des espaces de noms isolés.
L’idée est simple : si cinq équipes utilisent le même modèle, il n’est pas nécessaire de déployer cinq versions séparées consommant mémoire et GPU.
Un service central pourrait héberger le modèle et le fournir à divers utilisateurs tout en maintenant une séparation logique.
Cette architecture s’intègre à une autre initiative autour de VCF : Model as a Service.
L’infrastructure peut offrir des modèles en interne comme un service. Les développeurs accèdent à des endpoints d’inférence tandis que l’organisation garde le contrôle sur la liste des modèles et leur déploiement hardware.
Une galerie unifiée permettra de déployer et gérer modèles et flux de RAG (Retrieval-Augmented Generation) sur machines virtuelles, conteneurs et ressources GPU.
VCF fournira aussi des indicateurs de performance : utilisation des tokens, latence, charge du CPU et de la mémoire.
Ces métriques seront essentielles pour mesurer le coût réel de chaque application à grande échelle, un aspect souvent occulté lors des premières phases d’adoption de l’IA.
Un AI Gateway pour contrôler modèles locaux et externes
Broadcom planifie également la mise en place d’un AI Gateway.
Ce dispositif fournira une interface commune pour la consommation et la gouvernance des modèles, qu’ils soient déployés au sein de l’infrastructure ou accessibles via d’autres environnements.
Le gateway pourra intégrer la sélection intelligente des modèles, la gestion des tokens, la supervision de l’utilisation et la validation des accès.
Ce composant sera crucial si les entreprises travaillent avec de nombreux modèles simultanément.
Une application simple pourrait utiliser un modèle léger et économique, tandis qu’une requête complexe pourrait être dirigée vers un modèle plus puissant. Certaines données pourraient rester locales, d’autres être traitées dans des services externes.
Le gateway deviendra ainsi un point de contrôle centralisé pour ces politiques.
Il offrira également une couche d’abstraction pour les développeurs, permettant de faire évoluer le déploiement du modèle sans risque de casser les applications.
Ce besoin devient d’autant plus pressant que le marché des modèles évolue rapidement : maintenir une application sur un modèle spécifique pendant plusieurs années devient peu pratique face aux nombreuses nouvelles alternatives qui apparaissent tous les quelques mois.
Les agents qui génèrent du code ont besoin d’un espace isolé
VMware AI Factory anticipe aussi un autre défi : celui des agents capables de générer et exécuter du code.
Un chatbot produisant une réponse erronée peut causer des désagréments. Mais un agent qui génère du code et dispose d’outils pour l’exécuter peut entraîner des conséquences beaucoup plus directes sur la plateforme.
Broadcom prépare des Secure AI Sandboxes, des environnements virtuels isolés pouvant accueillir ce code dynamique.
Une couche de gouvernance sera également mise en place pour définir la manière d’invoquer ces agents, les outils qu’ils peuvent utiliser et comment valider leurs résultats avant exécution.
Ces fonctionnalités sont annoncées comme futures, et ne doivent pas être confondues avec celles disponibles dès aujourd’hui.
La virtualisation trouve ici un nouveau cas d’usage, passant d’un simple isolement d’OS ou d’applications à la sécurisation d’agents d’IA générant du code potentiellement imprévisible, sans accès direct au reste de l’infrastructure.
AMD Instinct et ROCm pour diversifier les options face à une seule stack GPU
L’un des annonces techniques les plus intéressantes concerne la collaboration avec AMD.
Broadcom travaille sur une configuration de VMware AI Factory combinant VCF avec GPU AMD Instinct et le framework ouvert ROCm.
L’automatisation du provisioning intégrera vSphere, vSAN, Kubernetes et le gestionnaire GPU d’AMD.
Broadcom évoque aussi AMD DVX, qui permettra d’associer des GPU à de grandes machines virtuelles utilisées par des clusters de VMware vSphere Kubernetes Service.
L’intégration d’AMD élargit les choix pour les entreprises qui ne souhaitent pas bâtir toute leur infrastructure IA autour d’un seul fournisseur d’accélérateurs.
VMware AI Factory s’appuie aussi sur des serveurs certifiés Dell PowerEdge et sur des AI ReadyNodes de différents constructeurs comme Cisco, Lenovo et Supermicro.
L’objectif de Broadcom est de fournir une couche opérationnelle unique compatible avec diverses architectures matérielles.
La cohérence de cette abstraction dépend cependant d’éléments dépassant VCF : la compatibilité des modèles, bibliothèques, kernels, runtimes continue d’influencer fortement le choix des accélérateurs.
Plus de 150 modèles dans le cloud privé
VMware AI Factory se connecte directement à l’un des autres annonces de Broadcom lors de VMware Explore 2026.
La société affirme que VCF peut faire fonctionner plus de 150 modèles ouverts et commerciaux et a validé plusieurs familles de modèles, en particulier :
- NVIDIA Nemotron 3
- Google DeepMind Gemma 4
- Cotomi de NEC
- Qwen d’Alibaba
- GLM 5.2 de Z.ai
Cela permet à la plateforme IA de dépasser la simple infrastructure Kubernetes pour GPU. L’objectif est de fournir des modèles opérationnels aux utilisateurs internes, tout en conservant la possibilité de changer de modèle sans reconstruire entièrement l’environnement.
Broadcom souhaite que l’on puisse préparer des serveurs, déployer la plateforme, assigner des GPU, choisir un modèle et lancer l’inférence, le tout dans un même environnement.
Cette séparation entre infrastructure, runtime et modèle pourrait s’avérer cruciale pour les entreprises qui veulent maintenir leurs plateformes sur le long terme, indépendamment de la brièveté des versions de certains grands modèles linguistiques.
L’économie des tokens au cœur du centre de données privé
Broadcom insiste particulièrement sur l’économie des tokens, car la comparaison entre IA publique et privée exige une unité d’évaluation allant au-delà du prix d’une GPU.
Une API commerciale offre une métrique simple : un coût fixe par million de tokens traités.
En infrastructure propre, le coût est réparti entre plusieurs postes : amortissement des serveurs et accélérateurs, énergie, refroidissement, stockage, réseau, personnel pour la gestion. En revanche, une GPU bien utilisée peut générer en continu des tokens, sans coût unitaire par requête de modèle.
VMware AI Factory vise à fournir des métriques permettant d’observer tokens produits par rapport aux ressources consommées.
Ce concept justifie aussi l’intérêt de partager GPU et modèles : acheter plus de hardware n’est pas forcément rentable si une partie reste en attente de travail.
Une infrastructure moins dotée en accélérateurs mais avec une utilisation élevée peut offrir un meilleur coût par token qu’une plateforme plus grande et fragmentée.
Le choix n’est pas obligatoirement binaire : public ou privé.
L’AI Gateway vise aussi ces approches hybrides, où certains modèles restent internes, d’autres sont externalisés selon le coût, la sensibilité des données, la capacité ou la disponibilité.
VMware AI Factory représente une évolution majeure de la vision de Broadcom sur la niche de la cloud privée. L’infrastructure ne se limite plus à la virtualisation, mais intègre GPU, modèles, tokens et agents comme ressources de la plateforme.
Si l’IA d’entreprise se déploie par une combinaison de modèles locaux et externes, la compétitivité de ces plateformes pourrait dépendre moins de l’offre d’un modèle spécifique, que de leur capacité à évoluer sans nécessité de reconstruire toute l’application lors d’un changement de matériel, de modèle ou d’emplacement.
Questions fréquentes
Qu’est-ce que VMware AI Factory ?
C’est une plateforme présentée par Broadcom, basée sur VMware Cloud Foundation, pour automatiser le déploiement et l’exploitation d’une infrastructure privée dédiée à l’intelligence artificielle, couvrant tout le parcours depuis les serveurs physiques jusqu’aux services d’inférence.
VMware AI Factory peut-il utiliser des GPU AMD ?
Oui. Broadcom et AMD collaborent sur une configuration combinant VCF avec les accélérateurs AMD Instinct et l’environnement ouvert ROCm, intégrant leur automatisation pour déployer ces composants.
Que signifie AI tokenomics pour Broadcom ?
Ce terme désigne l’analyse et le contrôle du coût d’exécution des inférences, en tenant compte de facteurs comme le nombre de tokens traités, l’utilisation des GPU, la mémoire et les ressources de calcul. Il ne garantit pas que la cloud privée soit toujours moins coûteuse qu’une API externe.
Quels modèles VMware AI Factory peut-il exécuter ?
Broadcom indique que VCF supporte plus de 150 modèles, avec des validations pour des familles telles que NVIDIA Nemotron 3, Google DeepMind Gemma 4, NEC cotomi, Qwen d’Alibaba, et GLM 5.2 de Z.ai.