Microsoft a dévoilé Maia 300, sa troisième génération d’accélérateurs d’intelligence artificielle (IA), dotée d’une architecture de centre de données regroupant 96 puces par rack, une mémoire HBM4 à large bande passante et un refroidissement principalement liquide. La société prévoit de commencer son déploiement en production dès 2027, avec pour objectif de faire de cette plateforme l’un des principaux systèmes pour l’inférence de ses produits et services. L’ambition est de traiter davantage de requêtes IA tout en consommant moins d’énergie et en diminuant la dépendance à des accélérateurs tiers.

Les points clés de Microsoft Maia 300 en 30 secondes

• Chaque accélérateur intègre huit piles de mémoire HBM4, offrant 288 Go de capacité et un débit maximal de 18 To/s.
• Un rack rassemble 96 accélérateurs, avec une consommation électrique de conception de 167 kW.
• Le refroidissement liquide élimine plus de 80 % de la charge thermique générée par les accélérateurs, régulateurs de tension et circuits de commutation.
• Microsoft promet jusqu’à sept fois plus de performance en tokens par rack comparé à Maia 200, et une amélioration de 40 % du ratio tokens par mégawatt face aux systèmes GPU de référence.
• Le déploiement complet commencera en 2027, avec une architecture réseau prête à connecter jusqu’à 12 288 accélérateurs dans un super-pod.

Annoncé le 12 octobre 2026, cette nouvelle marque l’évolution des grands fournisseurs de services cloud, qui passent de la conception de puces individuelles à celle de systèmes intégrés d’IA. Dans Maia 300, processeur, mémoire, connexions haute vitesse, alimentation électrique et refroidissement sont conçus pour fonctionner comme une plateforme unique.

L’accent est mis particulièrement sur l’inférence, la phase où un modèle entraîné génère des réponses ou exécute des tâches. Microsoft vise des modèles à contexte étendu, des conversations à faible latence et des agents IA réalisant plusieurs opérations en chaîne.

HBM4 et architecture de chiplets pour réduire les goulets d’étranglement

Chaque accélérateur Maia 300 intègre huit piles de mémoire HBM4, avec une capacité totale de 288 Go et un débit maximal de 18 téraoctets par seconde. La High Bandwidth Memory (HBM) est une technologie de mémoire empilée qui permet le transfert massif de données entre la mémoire et le processeur.

L’importance de la capacité et du débit réside dans le fait que les modèles IA requièrent le déplacement constant de paramètres, données de contexte et états intermédiaires durant la génération de réponses. Lorsqu’un accès mémoire limité freine le système, augmenter la puissance de calcul seul ne garantit pas une amélioration proportionnelle du rendement.

Microsoft affirme que Maia 300 offre 2,5 fois le débit mémoire de Maia 200, ainsi qu’une capacité environ 33 % supérieure. La société met également en avant une amélioration approximative de deux fois du débit HBM par watt par rapport à la génération précédente. Il convient de préciser que ces chiffres, fournis par Microsoft, ne proviennent pas d’évaluations indépendantes.

L’architecture utilise une conception en chiplets multiples, c’est-à-dire plusieurs blocs de silicium spécialisés intégrés dans un même boîtier. Les chiplets de calcul sont fabriqués avec le procédé N2P de TSMC, une technologie de 2 nanomètres, tandis que les fonctions de contrôle mémoire et E/S sont réparties sur des blocs adaptés.

Cette séparation permet de réserver le procédé de fabrication le plus avancé aux unités de calcul, tout en utilisant d’autres solutions pour les fonctions de contrôle. Microsoft assure que cette approche optimise l’efficacité et facilite la gestion des coûts, comparée à une architecture où toutes les fonctions seraient concentrées sur un seul bloc de silicium.

Le système intègre aussi des formats numériques de faible précision, notamment une version améliorée de MXFP4, réduisant la quantité de données à stocker et transférer. Toutefois, l’utilité de ces formats dépend du modèle, des opérations effectuées et des exigences de précision.

Un rack de 167 kW avec refroidissement liquide

La configuration complète de Maia 300 regroupe 96 accélérateurs dans 24 bacs, chacun comprenant quatre puces. Le rack possède une enveloppe électrique de 167 kW, intégrant processeurs, mémoire, stockage et infrastructure de connectivité, conçu pour les centres de données.

Le refroidissement liquide évacue plus de 80 % de la chaleur générée par les accélérateurs, régulateurs de tension et circuits de commutation. La mémoire et d’autres composants auxiliaires sont maintenus par refroidissement par air.

Il peut se connecter directement au circuit d’eau si l’infrastructure le permet, ou utiliser un échangeur thermique pour évacuer la chaleur dans des environnements utilisant une refroidissement à air. Cette flexibilité facilite le déploiement, mais nécessite de dimensionner correctement l’alimentation électrique et la gestion thermique.

La densité élevée impose des contraintes : un rack de 167 kW requiert une alimentation adaptée, une distribution électrique spécifique et des systèmes de refroidissement capables de maintenir des températures sûres. Microsoft utilise deux lignes d’alimentation, des dispositifs de distribution haute capacité et une architecture de bus à 50 V pour gérer l’énergie.

Les connexions internes relient les accélérateurs dans les bacs via des commutateurs intégrés, et un second niveau réseau à fibre optique assure la communication entre racks, notamment sur de longues distances.

L’architecture peut évoluer jusqu’à un super-pod regroupant 12 288 accélérateurs, répartis sur un maximum de 128 racks, permettant de distribuer l’inférence entre plusieurs groupes de chips selon les besoins de chaque modèle.

Microsoft promet jusqu’à sept fois plus de performance par rack

Microsoft affirme que Maia 300 peut fournir jusqu’à sept fois plus de performances en tokens par rack par rapport à Maia 200, pour une configuration complète de 96 accélérateurs. La société estime également que le nouveau système traitera 40 % de tokens en plus par mégawatt par rapport aux systèmes GPU de référence.

Il faut cependant noter que ces chiffres ne reflètent pas nécessairement une amélioration universelle pour toutes charges de travail. La performance réelle dépend du modèle, de la taille du contexte, de la concurrence, des paramètres réseau et de la répartition de la charge entre les accélérateurs. Microsoft ne fournit pas de comparatif indépendant permettant de reproduire ces résultats dans différentes conditions.

L’entreprise indique que cette architecture cible principalement des services comme Microsoft Copilot, GitHub Copilot, Microsoft Foundry ainsi que ses propres modèles IA. Maia 200 est déjà en production pour certains workloads Microsoft, tandis que Maia 300 sera déployé à partir de 2027.

Développer ses propres puces permet à Microsoft d’adapter le hardware à ses modèles et services, plutôt que de dépendre uniquement d’accélérateurs commerciaux comme ceux de Nvidia ou AMD. Cependant, cela ne signifie pas que la société abandonnera ces fournisseurs ; elle pourra combiner différentes plateformes selon la disponibilité, le coût et les exigences de chaque charge.

Le défi consiste à appliquer concrètement ces gains à grande échelle, en intégrant la mémoire HBM4, le refroidissement liquide et les interconnexions. Ces avancées demandent des investissements en infrastructure et une coordination précise entre hardware, software et centres de données.

Questions fréquentes

Quelle mémoire utilise Microsoft Maia 300 ?

Chaque accélérateur comporte huit piles HBM4, offrant 288 Go de mémoire et jusqu’à 18 To/s de bande passante maximale, selon les spécifications de Microsoft.

Combien d’accélérateurs dans un rack Maia 300 ?

Un rack contient 96 accélérateurs, intégrés dans 24 bacs de quatre puces chacun, avec une puissance assumée de 167 kW.

Quand Maia 300 sera-t-elle déployée ?

Microsoft prévoit de commencer les déploiements en 2027, la plateforme étant principalement destinée à l’inférence IA dans ses services et produits.

Quels sont les avantages du refroidissement liquide ?

Il permet d’évacuer plus de 80 % de la charge thermique, notamment celle des accélérateurs, régulateurs et circuits de commutation. La mémoire et d’autres composants auxiliaires restent refroidis par air.