NVIDIA pense que le prochain grand goulet d’étranglement de l’intelligence artificielle ne sera plus la puissance de calcul, mais la capacité de mémoire disponible. C’est pourquoi la société a dévoilé lors du Future of Memory and Storage (FMS) 2026 une nouvelle stratégie visant à permettre aux GPU d’accéder directement aux unités SSD sans passer par le CPU, afin d’étendre la capacité mémoire effective pour des modèles d’IA de plus en plus volumineux et des agents opérant simultanément.

Les points clés de Storage-Next en 30 secondes

• NVIDIA ouvrira le code de cuFile, la technologie permettant aux GPU d’accéder directement au stockage.
• Les GPU pourront lancer des milliers de requêtes simultanées vers des SSD sans dépendre du CPU.
• L’initiative Storage-Next regroupe plus de 40 entreprises, parmi lesquelles Google, Intel, Meta, Micron, Kioxia et DDN.
• Le but est d’utiliser la NAND Flash comme une nouvelle couche de mémoire pour l’IA lorsque la mémoire HBM devient insuffisante.
• NVIDIA précise qu’un SSD ne remplacera pas la HBM, mais permettra de stocker de grands contextes, des caches et une mémoire persistante avec des latences de microsecondes.

La proposition arrive à un moment où la mémoire HBM est devenue l’un des composants les plus rares et coûteux de l’infrastructure pour l’intelligence artificielle. Des modèles avec des fenêtres de contexte de plus en plus grandes, des inférences avec des milliers d’agents et de vastes bases de connaissances augmentent la pression sur la mémoire des GPU.

Le GPU veut cesser de dépendre du CPU pour accéder aux données

Actuellement, lorsqu’un GPU a besoin d’informations stockées sur un SSD, le processus implique généralement plusieurs étapes.

Les données passent par le CPU, traversent différentes couches du système d’exploitation et réalisent plusieurs copies avant d’arriver enfin dans la mémoire du GPU.

NVIDIA souhaite éliminer une grande partie de ce parcours.

Pour ce faire, elle ouvrira le code de cuFile, l’interface utilisée par GPUDirect Storage, permettant aux GPU de lancer directement des opérations de lecture et écriture sur le stockage.

Selon la société, cela permettra de gérer des milliers de requêtes concurrentes en exploitant les centaines de milliers de threads disponibles dans les GPU modernes.

Le projet sera développé dans le cadre de XIO-SIG, une nouvelle initiative dont les premiers partenaires seront Google, Intel, Meta et NVIDIA, avec pour objectif de créer une couche interoperable fonctionnant sur différentes plateformes matérielles et logicielles.

La NAND devient une partie intégrante de la hiérarchie de mémoire

L’idée n’est pas de remplacer la mémoire HBM par des SSD.

Les différences de latence et de bande passante restent considérables.

Ce que propose NVIDIA, c’est d’utiliser la capacité énorme des SSD d’entreprise comme un niveau supplémentaire dans la hiérarchie de mémoire.

Au lieu de conserver toute l’information en HBM, les applications pourront stocker dans des SSD des éléments tels que :

• Des contextes de grande taille.
• Des caches KV pour les modèles de langage.
• Une mémoire persistante pour les agents d’IA.
• Des bases vectorielles.
• Des ensembles de données partiellement utilisés.

Les GPU ne chargeront que les blocs nécessaires à chaque instant, réduisant ainsi la pression sur la mémoire principale.

Selon NVIDIA, cet accès s’effectuera en microsecondes, une différence significative par rapport aux modèles traditionnels de stockage.

SCADA : accès direct, mais avec isolation

Permettre à une GPU d’écrire directement sur un stockage soulève également de nouveaux défis en matière de sécurité.

Pour y répondre, NVIDIA a présenté SCADA (Scaled Accelerated Data Access).

Ce cadre sépare clairement deux composants.

D’un côté, l’application nécessitant un accès rapide au stockage reste en dehors de la zone de confiance du système.

De l’autre, un composant privilégié configure à l’avance les régions de stockage accessibles par chaque charge de travail, en conservant les mécanismes traditionnels de protection du noyau Linux.

La société affirme que ce design empêche une application d’accéder librement au contenu du stockage ou d’interférer avec d’autres processus.

Storage-Next veut définir l’avenir du stockage pour l’IA

Toutes ces technologies font partie de Storage-Next, une initiative menée par NVIDIA et plus de 40 fabricants de stockage, de mémoire Flash et de plateformes d’infrastructure, notamment DDN, Kioxia et Micron.

L’objectif est de définir des normes ouvertes pour une nouvelle génération de stockage conçue spécifiquement pour les charges de travail accélérées par GPU.

Dans cet écosystème, le NVIDIA Vera BlueField-4 STX jouera également un rôle clé, sa architecture combinant les nouveaux processeurs Vera, les DPU BlueField-4 et la pile de sécurité DOCA pour créer des plateformes de stockage natives pour l’IA.

Une demande accrue de SSD… et une possible pression sur le marché

Bien qu NVIDIA n’évoque pas directement l’impact commercial de cette stratégie, ce mouvement pourrait avoir des répercussions sur l’industrie du stockage.

Si les SSD jouent un rôle beaucoup plus actif dans l’infrastructure IA, leur demande pourrait s’accroître parallèlement à la croissance des centres de données dédiés aux modèles génératifs.

Des fabricants comme Kioxia, Micron, Samsung, SK hynix ou Solidigm ont déjà augmenté leurs investissements dans la NAND de haute capacité, en raison de la forte croissance du marché de l’intelligence artificielle.

Cependant, il est encore trop tôt pour anticiper un impact direct sur les prix. L’évolution dépendra de l’adoption réelle de ces architectures et de l’équilibre entre l’offre et la demande de mémoire Flash dans les années à venir.

Ce qui est clair, c’est que NVIDIA ne voit plus le stockage uniquement comme un simple dépôt de données. Dans la prochaine génération d’infrastructures pour l’IA, les SSD deviendront une composante intégrante du processus d’exécution des modèles, réduisant la dépendance à une mémoire HBM dont la capacité constitue encore l’un des principaux limites du secteur.

Questions fréquentes

Que souhaite faire NVIDIA avec les SSD ?

Elle veut permettre aux GPU d’accéder directement au stockage afin d’utiliser les SSD comme une couche supplémentaire de mémoire dédiée à l’IA.

Les SSD remplaceront-ils la mémoire HBM ?

Non. NVIDIA précise qu’il existe toujours des différences importantes de performance et de latence. L’objectif est de compléter la HBM, non de la remplacer.

Qu’est-ce que Storage-Next ?

C’est une initiative menée par NVIDIA et plus de 40 entreprises pour développer des normes ouvertes de stockage optimisées pour les charges de travail accélérées par GPU.

Qu’est-ce que SCADA ?

Il s’agit d’un cadre développé par NVIDIA pour permettre un accès direct des GPU au stockage tout en maintenant des mécanismes d’isolation et de sécurité compatibles Linux.