La croissance de l’intelligence artificielle ouvre un nouveau chapitre dans l’univers des centres de données. Il ne s’agit plus uniquement de fabriquer l’accélérateur le plus puissant, mais de connecter des dizaines de milliers de puces et de faire évoluer le calcul au-delà d’un seul rack. Nvidia et Broadcom incarnent deux stratégies distinctes pour relever ce défi : des plateformes programmables et verticalement intégrées versus des puces et réseaux sur mesure pour les grands hyper-échelles.
Nvidia vise à fournir pratiquement toute l’infrastructure nécessaire pour bâtir une AI Factory, de la GPU et CPU aux interconnexions, switches et logiciels. Broadcom, en revanche, se développe à travers des accélérateurs personnalisés — souvent appelés XPU — et des technologies de réseau conçues pour un cercle réduit de géants technologiques, qui manipulent des volumes suffisants pour justifier leurs propres conceptions.
Les clés en 30 secondes
- Nvidia mise sur une plateforme programmable accessible à de multiples types de clients.
- Broadcom développe des accélérateurs personnalisés en partenariat avec de grands hyper-échelles.
- Les ASIC/XPU peuvent optimiser performance, consommation et coût pour des charges très spécifiques.
- Les GPU offrent une flexibilité accrue face à l’évolution des modèles et algorithmes.
- Le réseau devient un élément fondamental pour la performance des grands clusters IA.
- Nvidia contrôle une grande partie de sa stack via CUDA, GPU, NVLink, InfiniBand et Ethernet.
- Broadcom possède une position particulièrement forte dans le switching Ethernet et le silicium sur mesure.
- Le prochain enjeu consiste à connecter des milliers d’accélérateurs comme s’ils formaient un vaste système de calcul.
- Les hyper-échelles combineront probablement GPU polyvalentes et accélérateurs propres, plutôt que de privilégier une architecture unique.
Deux approches distinctes pour l’infrastructure IA
La divergence entre Nvidia et Broadcom débute au niveau même de leur modèle économique.
Nvidia a construit un écosystème horizontal autour de ses GPU. Ses accélérateurs peuvent se retrouver chez AWS, Microsoft Azure, Google Cloud, Oracle Cloud, des fournisseurs spécialisés, dans des centres de supercomputing, des clouds souverains ou des infrastructures privées d’entreprise.
Mais vendre des GPU n’est qu’une facette de la stratégie.
Nvidia évolue depuis des années vers une entreprise d’infrastructure complète. CUDA sert de couche logicielle, tandis que des technologies comme NVLink, NVSwitch, InfiniBand et ses plateformes Ethernet permettent de relier un nombre croissant d’accélérateurs.
Broadcom, en revanche, adopte une posture différente.
Elle est devenue l’un des acteurs clés dans le développement de ASIC et d’accélérateurs sur mesure pour l’intelligence artificielle, collaborant directement avec certains des plus grands opérateurs d’infrastructure mondiaux.
Au lieu de vendre le même accélérateur à des milliers d’entreprises, Broadcom peut concevoir avec un hyper-échelle un silicium spécialement optimisé pour ses besoins précis.
GPU programmables versus XPU sur mesure
Ce contraste est essentiel pour comprendre cette bataille.
Une GPU Nvidia est une plateforme programmable.
Elle peut être utilisée pour entraîner de grands modèles linguistiques, réaliser des inférences, traiter la vision par ordinateur, développer des modèles scientifiques ou tester de nouvelles architectures, même celles qui n’existaient pas lors de la fabrication du chip.
Un ASIC, au contraire, est conçu pour une tâche beaucoup plus spécifique.
Lorsqu’une entreprise connaît parfaitement le type d’opérations qu’elle doit exécuter à grande échelle, elle peut concevoir du matériel en éliminant les composants inutiles et en optimisant d’autres.
Le résultat potentiel : une amélioration notable en termes de coût, de consommation électrique et de performance pour cette tâche ciblée.
C’est pourquoi les puces sur mesure ont un sens particulier pour des entreprises comme Google, Meta ou de grands développeurs de modèles IA.
Lors du déploiement de centaines de milliers d’accélérateurs, un gain même modéré en efficacité peut représenter des économies colossales.
L’avantage de Nvidia : la flexibilité
L’argument principal en faveur de Nvidia face au silicium personnalisé réside dans la rapidité avec laquelle l’intelligence artificielle évolue.
Les modèles changent très vite.
Nouvelles architectures, techniques d’attention, formats numériques, systèmes d’experts ou méthodes d’inférence modifient en quelques mois les exigences en capacité de calcul.
Concevoir un ASIC demande un cycle nettement plus long.
Il faut définir l’architecture, concevoir le chip, le valider, le fabriquer et enfin l’intégrer.
Une plateforme programmable peut s’adapter via des mises à jour software à la plupart de ces changements.
Cette flexibilité explique une large part du succès des GPU en IA.
Une entreprise peut acheter une infrastructure Nvidia aujourd’hui sans connaître précisément quels modèles elle exécutera dans trois ans.
Broadcom a aussi son atout : les hyper-échelles savent ce qu’elles veulent
Mais cet argument fonctionne aussi à l’inverse.
Les plus grands opérateurs cloud manipulent des charges à une échelle que peu d’autres organisations peuvent égaler.
Quand un hyper-échelle sait qu’un type d’inférence sera exécuté des millions de fois, l’optimisation spécifique du hardware devient économiquement attractive.
Google a expérimenté cette approche avec ses TPU depuis des années.
Meta conçoit ses propres accélérateurs MTIA. AWS propose Trainium et Inferentia. Microsoft travaille aussi sur son silicium interne, Maia.
L’essor du silicium sur mesure montre que les grands acheteurs de GPU ne veulent pas dépendre indéfiniment d’une architecture unique.
Et dans cette optique, Broadcom voit une opportunité de taille.
Le vrai changement ne se limite plus au serveur
Un autre enjeu incontournable bouleverse également le marché.
Un accélérateur isolé a une capacité limitée.
Les modèles les plus grands doivent fonctionner sur des centaines, des milliers, voire des dizaines de milliers d’accélérateurs simultanément.
Par conséquent, la performance du système dépend de plus en plus de la manière dont ces puces communiquent.
Le réseau n’est plus simplement un mécanisme pour relier des serveurs, il devient partie intégrante du système de calcul.
Deux notions fondamentales émergent : scale-up et scale-out.
Scale-up : faire fonctionner plusieurs GPU comme un seul système
Le scale-up consiste, en simplifiant, à relier des accélérateurs avec des liens extrêmement rapides et à faible latence dans un domaine de calcul étroitement intégré.
Nvidia a consolidé une position solide grâce à NVLink et NVSwitch.
Ses architectures en rack permettent de relier plusieurs GPU avec des débits très élevés, faisant que l’ensemble se comporte comme un seul grand accélérateur.
Cette stratégie atteint une nouvelle dimension avec des systèmes en rack à l’échelle du data center, où le rack entier devient l’unité de base de calcul.
Mais les grands clusters doivent aller encore plus loin.
Scale-out : connecter des milliers d’accélérateurs
Quand plusieurs racks sont reliés, apparaît la notion de réseau scale-out.
Des technologies comme InfiniBand et Ethernet permettent de construire des fabrics qui connectent des milliers de nœuds.
Nvidia, grâce à l’acquisition de Mellanox, détient une position clés dans ce domaine grâce à des technologies de réseau haute performance.
Cependant, Ethernet évolue rapidement et Broadcom en est un acteur majeur en silicium.
Au fur et à mesure que les hyper-échelles cherchent à bâtir des clusters de plus en plus grands en utilisant des architectures ouvertes, l’Ethernet pourrait jouer un rôle Croissant.
Broadcom veut faire évoluer l’Ethernet pour l’IA
L’importance de Broadcom ne se limite pas à ses accélérateurs sur mesure.
L’entreprise est un acteur clé du switching pour centres de données.
Des familles de puces comme Tomahawk équipent de nombreuses infrastructures cloud et permettent la construction de réseaux Ethernet à capacités croissantes.
La question stratégique est de savoir si Ethernet peut prendre une place croissante dans la communication pour les gigantesques usines d’IA.
Si tel est le cas, Broadcom pourrait en bénéficier, indépendamment du fournisseur d’accélérateurs.
Un cluster peut utiliser des GPU Nvidia tout en intégrant des réseaux Ethernet basés sur le silicium Broadcom.
C’est pourquoi la relation entre ces deux acteurs ne se limite pas à une simple compétition.
Nvidia veut contrôler toute la chaîne
La stratégie de Nvidia consiste justement à réduire ces interstices où d’autres fournisseurs pourraient intervenir.
Elle ne souhaite plus uniquement vendre le chip.
Son approche comprend :
GPU + CPU + interconnexion + networking + systèmes + logiciels.
CUDA représente probablement l’élément le plus difficile à reproduire.
Des milliers d’applications, frameworks et outils sont optimisés pour l’écosystème Nvidia.
L’intégration croissante entre hardware et networking renforce cette position.
Elle permet à Nvidia d’optimiser l’ensemble du système plutôt que ses composants individuels.
Pour un client souhaitant déployer rapidement une infrastructure IA, adopter une architecture validée de bout en bout s’avère souvent bien plus simple que de mixer des technologies provenant de plusieurs fournisseurs.
Broadcom mise sur la personnalisation
Broadcom joue une autre partition.
Ses grands clients disposent de milliers d’ingénieurs et peuvent concevoir leur propre architecture.
Ils n’ont pas nécessairement besoin d’acquérir un système complet.
Ils choisissent leur accélérateur, leur architecture réseau et leur intégration dans le datacenter.
Pour eux, maîtriser la conception prime sur l’achat d’une plateforme clé en main.
L’aspect économique est aussi un moteur : à l’échelle de plusieurs gigawatts, réduire ne serait-ce que de quelques points le coût ou la consommation énergétique peut représenter des centaines de millions de dollars.
L’énergie, un facteur de changement accéléré
L’approvisionnement électrique devient l’un des limites majeures à la croissance de l’IA.
Les nouveaux campus se projettent à plusieurs centaines de mégawatts, certains vers des dimensions de gigawatts.
Dans ce contexte, le rendement énergétique est aussi crucial que la performance brute.
Les accélérateurs sur mesure sont particulièrement attrayants pour l’inférence, où certaines charges sont plus prévisibles et répétitives.
Les GPU conservent un avantage évident quand la flexibilité et la capacité à exécuter des charges variées priment.
Cela pourrait conduire à une division naturelle du marché.
L’avenir sera probablement hybride
La confrontation Nvidia-Broadcom n’a pas nécessairement à aboutir à un seul gagnant.
Les grands centres de données IA seront probablement hétérogènes.
Les GPU programmables continueront à dominer certains entraînements, recherches, et charges évolutives.
Les accélérateurs sur mesure absorberont peu à peu de grandes parts d’inférence et de charges récurrentes.
Les CPU continueront à gérer d’autres parties du système.
Et diverses technologies de réseau relieront toute cette infrastructure.
Ce sera une question de répartition des dépenses entre chaque couche.
Le principal défi pour Nvidia : d’autres GPU ?
Pendant longtemps, le secteur a cherché le concurrent de Nvidia en visant des fabricants capables de concevoir une GPU meilleure.
Mais la menace pourrait venir d’une autre direction.
Il ne faut pas nécessairement remplacer complètement les GPU Nvidia.
Il suffit que les plus grands clients transfèrent une part croissante de leurs charges vers leurs propres accélérateurs.
Si Google, Meta, Amazon, Microsoft et d’autres géants utilisent progressivement plus de silicium personnalisé, le marché continuera à croître pendant que la part débitée par une GPU commerciale diminue.
Broadcom peut profiter directement de cette transition en fournissant conception, propriété intellectuelle, interconnexion et networking.
Mais Nvidia a quelque chose d’extraordinairement difficile à reproduire
Nvidia ne se limite pas simplement à la compétition technologique sur le hardware.
Elle bénéficie d’un écosystème développé sur plusieurs décennies.
CUDA, des bibliothèques optimisées, outils de développement, frameworks, réseaux et systèmes complets rendent la mise en service d’une nouvelle capacité IA beaucoup plus aisée.
Cet avantage est particulièrement marqué en dehors du cercle restreint des hyper-échelles capables de concevoir leurs propres ASICs.
Une entreprise, un gouvernement, une université ou un fournisseur cloud régional aura bien du mal à concevoir son propre ASIC pour l’IA.
Pour ces clients, une plateforme programmable reste nettement plus pertinente.
La future guerre de l’IA : la guerre pour l’architecture des centres de données
Nvidia et Broadcom reflètent ainsi deux visions opposées du futur.
Nvidia veut transformer le centre de données en une immense machine de calcul définie par sa plateforme, où accélérateurs, réseaux et logiciels évoluent de concert.
Broadcom mise sur une infrastructure permettant aux grands opérateurs de construire des systèmes personnalisés en combinant leurs propres accélérateurs avec des réseaux Ethernet de plus en plus rapides.
Les deux approches peuvent coexister.
Mais une chose devient claire : la prochaine étape dans la course à l’IA ne se résoudra pas uniquement en comparant le nombre de FLOPS par puce.
Lorsque les clusters intègrent des dizaines de milliers d’accélérateurs, le réseau, l’interconnexion, la consommation électrique et l’architecture globale du centre de données sont aussi cruciaux que le processeur.
La compétition ne se limite plus à la fabrication de la GPU la plus rapide.
Il s’agit de décider de la manière dont seront construites les énormes machines pour la prochaine génération d’intelligence artificielle.
