
SOCAMM s’affirme comme une « deuxième mémoire » pour les serveurs d’IA, et menace de tendre le marché du LPDDR
Depuis des années, le débat autour de la mémoire dans les centres de données spécialisés en intelligence artificielle s’articule presque toujours autour des mêmes sigles : HBM. Cela semble logique : la bande passante de la High Bandwidth Memory est devenue un pilier pour entraîner et exécuter des modèles de plus en plus grands. Mais parallèlement, et presque en silence, se développe un autre front qui vise quelque chose de différent : une modularité accrue, une densité plus grande et une dépendance moindre aux conceptions « soudées » en permanence sur la carte. Voici où intervient SOCAMM (et son évolution, SOCAMM2), un format de module basé sur la mémoire LPDDR que NVIDIA a présenté dans le cadre de sa feuille




