Broadcom a présenté VMware Private AI Cloud, une solution intégrant une infrastructure cloud privée, des services d’inférence, des agents d’intelligence artificielle et des applications d’entreprise traditionnelles sur VMware Cloud Foundation (VCF). Cette architecture vise à permettre aux organisations d’exécuter des modèles près de leurs données, de contrôler l’utilisation des GPU et des tokens, et d’appliquer des politiques de sécurité et de gouvernance sans créer une plateforme IA complètement séparée de leur infrastructure existante.
Les points clés de VMware Private AI Cloud en 20 secondes
- VMware Private AI Cloud repose sur VMware Cloud Foundation 9.
- Il combine machines virtuelles, Kubernetes, inférence et agents IA.
- Il inclut VMware AI Factory pour automatiser le déploiement, depuis le matériel jusqu’aux modèles.
- VCF supporte plus de 150 modèles et différents accélérateurs.
- Broadcom ajoute des contrôles spécifiques pour les agents, les données et les applications IA.
Année après année lors de VMware Explore 2026, Broadcom a dévoilé plusieurs nouveautés autour de l’intelligence artificielle, regroupées au sein d’une architecture unique. VMware AI Factory fournit la couche d’automatisation, AgentMinder contrôle les actions des agents, Tanzu se charge des applications et des données, tandis que vDefend et Avi Load Balancer intègrent des mécanismes de sécurité pour ces nouvelles charges.
L’idée fondamentale de cette architecture est simple : amener le modèle jusqu’aux données plutôt que de transférer ces dernières vers un service externe.
Pour certaines organisations, cette distinction est cruciale, notamment lorsque les modèles doivent accéder à une documentation interne, du code, des bases de données ou des informations sous contraintes réglementaires. Exécuter l’inférence dans une infrastructure maîtrisée ne résout pas automatiquement tous les enjeux de sécurité ou de conformité, mais permet de mieux définir où les données sont traitées et quels systèmes y ont accès.
Le cloud privé commence aussi à gérer GPU, modèles et tokens
VMware Cloud Foundation fournit depuis des années une infrastructure pour machines virtuelles et applications d’entreprise. Broadcom souhaite désormais étendre cette plateforme pour traiter l’IA comme une charge de production à part entière.
Cela implique de gérer des ressources jusqu’ici peu exploitées dans les centres de données, notamment les GPU.
VCF supporte des accélérateurs et processeurs de divers fabricants, et Broadcom collabore avec des fournisseurs de serveurs pour proposer des configurations compatibles. L’objectif est d’éviter que chaque projet IA se crée une infrastructure hardware isolée.
Les ressources peuvent être partagées entre départements, applications et modèles.
Le partage multi-locataires de modèles permet par exemple à différentes unités opérationnelles d’utiliser une même instance de modèle tout en maintenant des espaces séparés, évitant ainsi de réserver mémoire et GPU pour déployer la même architecture à chaque fois.
Broadcom accroît également la visibilité sur l’utilisation des GPU et vGPU, avec des métriques sur les tokens, la latence, le calcul et la mémoire.
Un concept clé introduit lors de VMware Explore 2026 est celui de AI tokenomics.
Dans les services IA, le coût est souvent exprimé en tokens ou requêtes. Quand le modèle tourne sur une infrastructure propre, la facture est répartie parmi serveurs, accélérateurs, stockage, énergie, licences et personnel.
Le coût en tokens reste présent, mais son impact est moins visible.
Pouvoir mesurer la production de tokens d’une infrastructure et la consommation de CPU, GPU, mémoire permet d’optimiser et comparer différentes configurations.
Broadcom ajoute à VCF 9 des mécanismes comme la NVMe memory tiering et la déduplication de stockage à l’échelle d’un cluster pour réduire les besoins en hardware. La rentabilité dépendra du volume de charge, des jeux de données et des paramètres de configuration.
Le cloud privé n’est pas toujours moins cher qu’une API externe. Pour des projets expérimentaux ou variables, payer uniquement à l’usage peut s’avérer plus efficace que d’acheter des accélérateurs sous-utilisés.
Mais l’économie devient plus favorable avec des charges stables, un nombre suffisant d’utilisateurs, et une forte utilisation du matériel.
VMware AI Factory connecte le serveur physique au premier modèle
La plateforme opérationnelle de VMware Private AI Cloud est VMware AI Factory, également annoncée par Broadcom lors de VMware Explore.
Elle automatise l’ensemble du processus, de la préparation des serveurs jusqu’au déploiement de services d’inférence.
Broadcom affirme que certaines installations peuvent réduire le délai de plusieurs semaines à quelques heures pour cette étape, mais cela dépend de nombreux facteurs comme le réseau, le stockage, le firmware, la sécurité et le matériel, qui varient d’un environnement à l’autre.
L’intégration avec MetalSoft vise à étendre cette automatisation aux serveurs bare-metal.
VCF pourra préparer ou réinstaller des équipements physiques de différents fabricants via sa console, en coordonnant le déploiement de vSphere, vSAN, Kubernetes et des composants pour GPU.
Broadcom étend aussi les options d’accélération.
Ils travaillent avec AMD pour une configuration de VMware AI Factory basée sur AMD Instinct et ROCm, tout en conservant le support pour d’autres architectures CPU et GPU.
Les modèles peuvent être déployés sur cette infrastructure.
Broadcom indique que VMware Cloud Foundation supporte plus de 150 modèles open source et commerciaux, avec des validations pour Nemotron 3 de NVIDIA, Gemma 4 de Google DeepMind, cotomi de NEC, Qwen et GLM 5.2 de Z.ai, par exemple.
L’objectif est de proposer ces modèles en mode Model as a Service.
Au lieu que chaque équipe de développement installe et gère son propre LLM, la plateforme offre un catalogue centralisé, permettant aux applications d’accéder à ces modèles via des services internes avec des politiques communes.
Le futur AI Gateway étendra cette approche par une interface pour modèles locaux et externes, intégrant l’autorisation d’applications, les limites d’utilisation et des mécanismes de sélection.
Cela favorisera des architectures hybrides :
Une entreprise pourra utiliser un modèle léger en local pour de nombreuses requêtes internes, réserver un modèle plus volumineux pour certains processus, et faire appel à un fournisseur externe quand la capacité locale est insuffisante.
Les agents obligent à repenser la sécurité du cloud privé
Ce qui distingue probablement VMware Private AI Cloud, ce n’est pas seulement la capacité à exécuter des modèles, mais aussi la gestion d’agents capables d’agir sur d’autres systèmes.
Un modèle qui se limite à générer du texte a un périmètre de risque limité. Un agent peut consulter des API, lire des données, utiliser des outils, modifier des applications ou exécuter du code.
Broadcom ajoute des contrôles spécifiques pour ce scénario.
AgentMinder attribue une identité aux agents, en reliant leur autorisation à leur mission, outils autorisés et ressources accessibles.
Les opérations sont vérifiées en temps réel, donc disposer initialement d’une identité valide ne donne pas automatiquement le droit d’effectuer toute action.
Tanzu Platform adopte une architecture deny by default.
Les agents n’accèdent pas aux API, réseaux, serveurs MCP (Model Context Protocol) ni à Internet sauf si cela est explicitement autorisé. Broadcom prévoit aussi un coffre-fort isolé pour les identifiants, empêchant les agents d’accéder directement à des secrets exposables par une commande malicieuses.
Cela répond notamment au problème du prompt injection.
Un agent pourrait traiter un document, un email ou une page contenant des instructions visant à modifier son comportement. Avec des identifiants visibles et des permissions étendues, le risque potentiel s’accroît.
Limiter la visibilité des identifiants et restreindre à l’extérieur les outils accessibles permet de réduire ces risques, sans les éliminer totalement.
Broadcom développe aussi Secure AI Sandboxes, des environnements virtuels où du code généré par agents peut s’exécuter sans donner un accès direct au reste de l’infrastructure.
VDefend étend ses mécanismes Zero Trust à la gestion des agents.
La société annonce des capacités pour identifier en continu les composants liés aux agents, détecter des utilisations non autorisées d’outils IA, et appliquer des signatures IA pour la détection et la prévention d’intrusions (IDPS).
Certaines fonctions sont encore en développement et ne sont pas disponibles actuellement.
Avi Load Balancer renforcera également ses protections pour contrôler quels outils les agents peuvent utiliser, détecter des comportements anormaux et limiter les tentatives d’exfiltration de données sensibles.
Ce portefeuille renforce la différence par rapport aux premières plateformes IA d’entreprise :
L’enjeu n’est plus uniquement d’installer un modèle dans un datacenter. La plateforme doit aussi gérer qui peut l’utiliser, quelles données il peut traiter, quelles outils il peut invoquer et ce qui arrive lorsqu’un agent tente une action.
Broadcom relie également Tanzu à la préparation de données pour l’IA. Les propriétaires d’information pourront créer des produits de données issus de sources structurées et non structurées, accessibles via des services gouvernés, que les applications et agents pourront consommer.
Cela permet de dissocier l’accès aux données de l’accès direct aux systèmes sources.
Une application pourra ainsi recevoir des données préparées à son usage sans avoir besoin de permissions sur l’ensemble de la base de données de l’entreprise.
VMware Private AI Cloud cherche ainsi à aller au-delà de la simple notion de cloud privé. La plateforme continue d’héberger des machines virtuelles, Kubernetes et applications classiques, mais elle inclut aussi les modèles IA, GPU, agents, produits de données et tokens, qui doivent aussi être gérés.
La réussite de cette approche dépendra fortement de la capacité des entreprises à exploiter ces charges sans complexifier davantage leur environnement.
Broadcom privilégie l’intégration de ces ressources dans les outils déjà utilisés par VCF, plutôt que la création d’une infrastructure totalement indépendante pour l’IA.
Il s’agit probablement d’un des enjeux majeurs pour les data centers d’entreprise dans les années à venir : exécuter de l’intelligence artificielle sur une infrastructure maîtrisée. Le défi consiste désormais à le faire de façon systématique, gouvernée et justifiée économiquement, surtout lorsque ces modèles font partie intégrante d’applications de production.
Questions fréquentes
Qu’est-ce que VMware Private AI Cloud ?
C’est la proposition de Broadcom pour exécuter et gérer l’inférence, les modèles et les agents IA dans VMware Cloud Foundation, en complément des machines virtuelles, Kubernetes et autres applications d’entreprise.
Quel lien entre VMware Private AI Cloud et VMware AI Factory ?
VMware AI Factory constitue la couche d’automatisation de VMware Private AI Cloud. Elle couvre le déploiement et l’exploitation de l’infrastructure nécessaire pour passer des serveurs physiques aux services d’IA.
Quels modèles d’intelligence artificielle supporte VMware Cloud Foundation ?
Broadcom affirme que VCF peut faire fonctionner plus de 150 modèles, avec des validations pour Nemotron 3 de NVIDIA, Gemma 4 de Google DeepMind, cotomi de NEC, Qwen et GLM 5.2 de Z.ai, entre autres.
VMware Private AI Cloud empêche-t-il que des données sortent de l’entreprise ?
Il permet de déployer des modèles et des applications dans une infrastructure privée, facilitant la conservation de certains données en cet environnement. Toutefois, la résidence effective des données dépendra de l’architecture adoptée, des applications, des modèles et des services externes que chaque organisation choisit d’utiliser.