Micron a démontré un module DDR5 RDIMM de 512 Go pouvant atteindre jusqu’à 9 200 MT/s, une combinaison de capacité et de vitesse orientée vers la prochaine génération de serveurs pour l’intelligence artificielle, bases de données, analytique et virtualisation. AMD et Intel valident déjà cette mémoire pour leurs futures plateformes, bien qu’elle ne soit pas encore commercialisée : Micron prévoit de lancer la production en volume au second semestre 2027.
Les clés du DDR5 de 512 Go de Micron en 30 secondes
- Micron a présenté un RDIMM DDR5 de 512 Go pouvant atteindre 9 200 MT/s.
- Un serveur à deux sockets et 24 emplacements pourrait atteindre 12 To de RAM en utilisant ces modules.
- La mémoire empile des matrices de DRAM en 3D et les connecte via des vias TSV à travers le silicium.
- AMD et Intel valident le module pour leurs futures plateformes serveurs.
- Micron affirme qu’il consomme plus de 60 % de moins que quatre modules de 128 Go équivalents et prévoit sa production en volume pour la deuxième moitié de 2027.
Ce saut est considérable même dans le marché des serveurs. En mai, Micron avait annoncé l’échantillonnage de modules DDR5 RDIMM de 256 Go à 9 200 MT/s, fabriqués avec sa technologie DRAM 1-gamma et encapsulés en 3D. Quatre mois plus tard, la capacité a doublé tout en conservant la vitesse maximale annoncée.
La capacité de 512 Go ne doit pas être confondue avec la mémoire totale d’un serveur. Chaque module fournit un demi-terabyte, et avec 24 emplacements, la configuration proposée par Micron permet d’atteindre 12 To de mémoire DDR5 directement connectée aux CPU.
De 256 à 512 Go sans augmenter le nombre d’emplacements
Augmenter la mémoire d’un serveur ne consiste pas uniquement à ajouter plus de modules.
Les processeurs disposent d’un nombre déterminé de canaux mémoire, et les cartes mères de slots DIMM limités. Lorsqu’ils sont tous occupés, augmenter la RAM nécessite l’installation de modules de plus grande capacité.
C’est là qu’interviennent les nouveaux RDIMM de Micron.
| Caractéristique | Micron DDR5 RDIMM 512 Go |
|---|---|
| Capacité par module | 512 Go |
| Vitesse annoncée | Jusqu’à 9 200 MT/s |
| Type | DDR5 RDIMM |
| Encapsulation | Empilement 3D |
| Interconnexion | TSV |
| Nombre de modules | Jusqu’à 24 modules (12 To) |
| Validation | AMD et Intel |
| Production en volume prévue | Second semestre 2027 |
Pour atteindre cette densité, Micron recourt à l’empilement vertical de matrices de DRAM.
La technologie 3DS (3D Stacking) consiste à empiler plusieurs dies de mémoire et à les relier par des TSV (Through-Silicon Vias), de petites connexions électriques traversant verticalement le silicium.
Ce concept présente des similitudes avec certaines techniques utilisées en HBM, bien qu’un DDR5 RDIMM et une empilement HBM soient des produits différents en termes d’architecture, interfaces et applications.
Le HBM est situé très près de l’accélérateur pour fournir un bande passante extrêmement élevée, tandis que les RDIMM fonctionnent comme mémoire principale connectée au contrôleur de mémoire de la CPU, offrant une flexibilité accrue pour atteindre plusieurs téraoctets de capacité.
La combinaison des deux types de mémoire pourrait être stratégique dans les serveurs d’intelligence artificielle.
Une GPU peut disposer de HBM pour stocker les données nécessaires lors du calcul, tandis que les CPU utilisent de grandes quantités de DDR5 pour préparer, traiter des bases de données, maintenir des caches ou alimenter d’autres composants.
12 To de RAM dans un serveur à 24 emplacements
Le calcul derrière cette capacité annoncée par Micron est simple :
24 × 512 Go = 12 288 Go, soit commercialement jusqu’à 12 To de DDR5.
L’avantage réside dans le fait d’obtenir cette capacité sans augmenter le nombre de slots DIMM ni forcément la taille physique du serveur.
Cela est particulièrement intéressant pour les charges nécessitant de conserver des ensembles de données très volumineux directement en mémoire.
Bases de données in-memory, Redis, RocksDB, Apache Spark, simulations, virtualisation et certains cas d’IA peuvent bénéficier d’une mémoire plus grande, car une proportion plus importante de données reste en RAM.
L’explication tient à la différence entre mémoire et stockage.
Même les SSD NVMe les plus rapides présentent une latence bien supérieure à la DRAM. Lorsqu’une application doit transférer continuellement des données entre stockage et mémoire, une partie du temps de traitement est consommée à attendre ces transferts.
Avoir plus de RAM permet de réduire ce trafic.
Cela ne signifie pas que doubler la mémoire améliorera automatiquement les performances. Si le volume de travail tient déjà dans la RAM ou si le goulot d’étranglement se trouve dans le CPU, le réseau ou le stockage, augmenter la capacité peut peu ou pas impacter.
L’intérêt dépend donc du type d’application.
Micron affirme jusqu’à 1,4 fois plus de performance dans une charge Spark
Micron a publié un exemple illustrant cet effet.
Dans des charges analytiques basées sur Apache Spark et Support Vector Machines (SVM), limitées par la mémoire, la société affirme que les nouveaux RDIMM de 512 Go peuvent offrir jusqu’à 1,4 fois la performance par rapport à des configurations DDR5 de 256 Go.
Il ne s’agit pas d’une amélioration générale de 40 %, mais d’un cas précis, basée sur la capacité accrue à stocker des données à proximité du processeur.
Micron cite aussi des améliorations pour des bases de données et des plateformes de cache comme RocksDB et Redis, où augmenter la mémoire permet de gérer des datasets plus volumineux et plus d’opérations simultanées.
Les tests précédents avec des modules de 256 Go ont déjà montré une réduction importante du trafic vers le stockage lorsque plus de données pouvaient rester en mémoire.
Le point clé ne réside donc pas seulement dans la vitesse de 9 200 MT/s.
La capacité peut devenir un levier de performance, en évitant d’avoir à sortir la mémoire DRAM d’un niveau plus lent pour accéder à des données.
Mezza téra en un DIMM réduit également la consommation
La densité a une autre conséquence : elle nécessite moins de modules pour atteindre une capacité donnée.
Micron affirme qu’un RDIMM de 512 Go consomme plus de 60 % d’énergie en moins que quatre modules de 128 Go permettant la même capacité.
La comparaison publiée indique 16 W pour le nouveau module contre 44,2 W pour quatre RDIMM de 128 Go, soit une différence d’environ 28,2 W par module de 512 Go.
À petite échelle, cela peut sembler modeste, mais dans un centre de données avec des milliers de serveurs, cette économie s’additionne, impactant autant la consommation électrique que la chaleur à dissiper.
De plus, utiliser un seul DIMM pour la capacité précédemment requise par quatre modules a aussi l’avantage évident de libérer des emplacements.
Cela permet d’accroître la mémoire par serveur sans augmenter proportionnellement le nombre de modules installés.
Micron avait déjà appliqué ce principe à ses modules de 256 Go. En mai, il indiquait qu’un module de cette capacité pouvait réduire de plus de 40 % la consommation opérationnelle par rapport à deux modules de 128 Go.
Les 9 200 MT/s nécessitent aussi une plateforme compatible
Un point crucial concerne la vitesse annoncée.
Que le module puisse fonctionner à 9 200 MT/s ne signifie pas qu’il peut être installé dans n’importe quel serveur DDR5 et atteindre cette vitesse automatiquement.
La CPU, le contrôleur mémoire, la carte mère, le firmware et la configuration du système doivent supporter cette fréquence.
C’est pourquoi AMD et Intel collaborent avec Micron pour valider ces modules sur leurs prochaines plateformes.
Intel indique qu’il participe à la validation du RDIMM pour ses futurs serveurs, tandis qu’AMD confirme également travailler conjointement, sans toutefois préciser de processeur ou de date de disponibilité exacte dans leur communiqué.
Il ne serait donc pas correct de présenter ces modules comme une mise à niveau immédiate pour les serveurs EPYC ou Xeon actuels.
La validation est en cours.
Par ailleurs, la performance de 9 200 MT/s représente une avancée importante par rapport à la mémoire actuellement en production de masse. Lors du lancement de ses RDIMM 1-gamma de 256 Go en mai, Micron estimait cette vitesse à plus de 40 % supérieure aux 6 400 MT/s des modules de référence.
L’IA modifie aussi la mémoire connectée au CPU
L’expansion de l’intelligence artificielle est souvent associée principalement aux GPU et HBM, mais elle influence aussi l’architecture autour des accélérateurs.
Les serveurs ont besoin de CPU pour exécuter les systèmes d’exploitation, préparer les données, coordonner les charges et gérer les applications. Parallèlement, inférence, bases de données vectorielles, agents et analytique nécessitent une quantité croissante de mémoire classique.
Micron mentionne spécifiquement les grands modèles de langage (LLM), l’IA à base d’agents, l’inférence en temps réel et les processeurs à nombreux cœurs parmi les charges augmentant la capacité et le débit.
Il y a aussi un problème d’équilibre.
Un processeur peut augmenter considérablement le nombre de cœurs, mais ces cœurs ont besoin de données. Si le débit mémoire par cœur diminue, une partie du potentiel de calcul peut rester inutilisée en attendant les données.
D’où la nécessité d’augmenter simultanément capacité et vitesse.
Micron travaille également sur MRDIMM, une technologie différente visant à augmenter le débit mémoire. Ses produits actuels atteignent jusqu’à 8 800 MT/s et sont destinés aux plateformes Intel Xeon compatibles.
Le nouveau RDIMM de 512 Go poursuit avant tout cet objectif : intégrer des capacités DRAM extraordinaires dans un nombre d’emplacements limité.
La production commerciale n’est pas pour tout de suite : 2027
Ce lancement de Micron constitue une démonstration technologique et une phase de validation, et non une commercialisation immédiate.
La société prévoit que les RDIMM de 512 Go entreront en production de masse au second semestre 2027, en fonction des besoins de ses clients.
Les validations avec les fabricants de processeurs et de plateformes doivent être achevées auparavant.
Ce point est essentiel : les titres “512 Go, 9 200 MT/s et 12 To” peuvent laisser penser que cette configuration est déjà disponible.
Ce n’est pas le cas.
Ce que Micron a prouvé, c’est qu’il peut construire le module et le faire fonctionner sur différentes plateformes serveurs. AMD et Intel participent à la validation et un calendrier pour sa production en volume est prévu.
La progression, passant des 128 Go déjà envoyés en volume en 2024, aux 256 Go avec technologie 1-gamma en mai 2026, puis aux 512 Go actuels, illustre la vitesse à laquelle la densité mémoire des serveurs évolue.
L’IA a transformé HBM en l’un des composants les plus surveillés dans l’industrie des semi-conducteurs, mais la mémoire classique continue aussi d’évoluer. Pour de nombreuses charges professionnelles, disposer de plusieurs téraoctets proches du CPU revient à ce que fournir des centaines de gigaoctets ultra-rapides à une GPU.
Le nouveau module Micron pousse cette idée jusqu’à un demi-terabyte dans une seule barrette DDR5. Si les futures plateformes AMD et Intel exploitent leurs 9 200 MT/s et si la production suit le calendrier prévu, un serveur typique à deux sockets pourra atteindre en 2027 un niveau qui nécessitait auparavant des configurations beaucoup plus complexes : 12 To de DRAM sans dépasser 24 emplacements de mémoire.