Dans le cadre de VMware Explore 2024, Broadcom et NVIDIA ont dévoilé une série de nouvelles capacités pour leur plateforme conjointe, VMware Private AI Foundation avec NVIDIA, qui sera officiellement lancée en mai 2024. Cette solution d’intelligence artificielle générative est conçue pour offrir une infrastructure privée et sécurisée aux entreprises, en mettant l’accent sur la confidentialité, la flexibilité, les performances et la sécurité.

Nouvelles fonctionnalités avec VMware Cloud Foundation 5.2.1

Le lancement de VMware Cloud Foundation (VCF) 5.2.1, prévu pour la fin de l’année, inclura plusieurs nouvelles capacités qui amélioreront l’expérience des utilisateurs de VMware Private AI Foundation avec NVIDIA :

• Modèle Store : Cette fonctionnalité permettra aux équipes de MLOps et aux scientifiques de données de curer et de fournir de manière sécurisée des modèles de langage à grande échelle (LLMs), avec contrôle d’accès intégré. Le Modèle Store améliorera la gouvernance et la sécurité de l’environnement, garantissant la confidentialité des données d’entreprise et de la propriété intellectuelle.
• Guided Deployment : Pour simplifier le processus de déploiement de l’IA générative, cette nouvelle capacité optimise la création de domaines de charge de travail et le déploiement de composants supplémentaires, accélérant le temps de mise en œuvre et réduisant l’effort administratif.

Capacités de NVIDIA AI Enterprise

• NVIDIA NIM Agent Blueprints : Ces modèles de flux de travail de référence permettent aux entreprises de construire leurs propres solutions d’IA générative. Ils incluent les outils nécessaires pour développer des applications personnalisées, tels que des flux de travail pour le service clientèle, la découverte de médicaments et l’extraction de données à partir de PDF.
• NVIDIA NIM : Un ensemble de microservices conçus pour le déploiement sécurisé et fiable de modèles d’IA hautes performances. Les microservices NIM prennent en charge une large gamme de modèles d’IA et s’intègrent facilement dans les applications d’entreprise avec de simples commandes.
• NVIDIA NIM Operator : Facilite le déploiement et la gestion des pipelines d’IA générative en automatisant le déploiement, l’échelonnement et la gestion des inférences, réduisant la latence et améliorant les performances de la mise à l’échelle automatique.

Capacités Futures

Broadcom a également annoncé des capacités supplémentaires pour les futures versions de VMware Private AI Foundation avec NVIDIA :

• Visibilité du Profil vGPU : Permet aux administrateurs de voir tous les vGPUs créés via une interface dans vCenter, éliminant le besoin de suivi manuel et améliorant l’efficacité opérationnelle.
• Réservations de GPU : Cette nouvelle fonctionnalité permettra aux administrateurs de réserver des ressources pour les vGPUs à l’avance, améliorant la planification des capacités et les performances.
• Service d’Indexation et de Récupération des Données : Facilitant la préparation des données privées pour l’IA générative, cette fonction permettra d’indexer et de vectoriser des sources de données privées, améliorant la qualité des résultats de l’IA générative.
• AI Agent Builder Service : Aidera les développeurs et les scientifiques de données à construire et déployer des agents d’IA personnalisés en utilisant des LLMs et des données du service d’indexation et de récupération des données.

Expansion de l’Écosystème

Broadcom élargit également l’écosystème de VMware Private AI Foundation avec NVIDIA en ajoutant de nouveaux fournisseurs et partenaires, y compris :

• Codeium : Offre de l’assistance dans la génération et le débogage de code via l’IA, améliorant l’efficacité du développement.
• HCLTech : Fournit des solutions personnalisées d’IA générative pour accélérer l’adoption de l’IA générative avec un modèle de tarification ajusté.
• Tabnine : Outils d’IA personnalisés pour le développement logiciel, tout en maintenant la confidentialité et le contrôle.
• WWT : Fournisseur de solutions technologiques qui supporte les entreprises dans la mise en œuvre et l’exploitation d’applications d’IA.

La collaboration entre Broadcom et NVIDIA sur la plateforme VMware Private AI Foundation représente une avancée significative dans l’infrastructure d’IA générative pour les entreprises, offrant de nouveaux outils et capacités pour améliorer l’efficacité et la sécurité dans la gestion des données et des applications d’IA.