Ces dernières années, le débat sur l’intelligence artificielle s’est concentré presque entièrement sur les GPU. C’est logique : entraînement, inférence, modèles multimodaux, Mixture of Experts et grands contextes dépendent d’accélérateurs toujours plus puissants. NVIDIA propose pourtant une idée qui mérite qu’on s’y arrête : à l’ère des agents IA, le CPU redevient un maillon essentiel de la chaîne de performance.

L’argument derrière NVIDIA Vera tient en une phrase. Un agent ne se contente pas de générer du texte : il raisonne, appelle des outils, exécute du code, interroge des bases de données, lance des tests, déplace des données, vérifie ses sorties et décide de l’étape suivante. À chacune de ces phases, le GPU peut rester à attendre que le CPU finisse son travail. Et dans un centre de données dédié à l’IA, un GPU qui attend, c’est du revenu perdu.

NVIDIA décrit Vera comme une nouvelle catégorie de CPU conçue pour un rendement monothread maximal à l’échelle, destinée aux agents et aux usines d’IA. Pas seulement beaucoup de cœurs : chaque cœur doit rester rapide même quand tout le processeur est chargé, avec assez de bande passante mémoire par cœur et des latences prévisibles.

Le cycle de l’agent change la façon de mesurer une CPU

Les tâches classiques des CPU de centres de données tournaient autour du traitement parallèle, des services web, de la virtualisation, des bases de données et du meilleur coût par unité de capacité. Le cloud a longtemps poussé vers plus de cœurs par socket, ce qui avait du sens pour beaucoup d’usages sans forcément accélérer chaque étape individuelle.

L’IA orientée agent impose un autre modèle : le modèle décide, le CPU exécute une action, le résultat revient au modèle, et le cycle recommence. Un sandbox qui démarre lentement, une requête SQL en retard ou un outil à haute latence, et c’est tout l’agent qui ralentit. Plus de cœurs permettent de faire tourner plus d’agents en parallèle, mais n’accélèrent pas la phase séquentielle d’un agent donné : c’est pour ça que NVIDIA insiste sur la performance monothread soutenue plutôt que sur le seul débit global.

Conséquence directe pour l’infrastructure : la vitesse d’un agent ne dépend plus seulement du modèle ou du GPU, mais de l’équilibre de tout le système qui soutient la boucle.

Ce que propose NVIDIA avec Vera

Vera embarque 88 cœurs Olympus maison, qui offriraient 50 % d’instructions par cycle en plus que Grace. La puce combine ces cœurs avec jusqu’à 1,2 To/s de bande passante mémoire LPDDR5X, moins de 40 watts de puissance mémoire, et un die monolithique doté d’une interconnexion de 3,4 To/s entre cœurs — de quoi éviter les goulots d’étranglement internes que NVIDIA appelle, non sans un brin de marketing, l’« impo·t du chiplet ».

NVIDIA annonce 1,8 fois plus de performance soutenue par cœur que x86 sur des charges simulant une exécution orientée agent. Avec Perplexity, dans un flux réel de programmation (clonage d’un dépôt puis exécution d’une suite de tests en sandbox), Vera aurait terminé environ 1,5 fois plus vite que x86, avec un démarrage jusqu’à 1,9 fois plus rapide pour plusieurs sandboxes simultanés. Starburst aurait mesuré une analyse SQL trois fois plus rapide, et Redpanda une latence en streaming jusqu’à six fois inférieure aux CPU x86 de pointe.

Ces chiffres viennent de NVIDIA et de ses partenaires, pas de tests indépendants dans des environnements clients réels avec leurs propres modèles, outils et systèmes de stockage. Ils indiquent tout de même une tendance : l’IA orientée agent va obliger à revoir la façon de mesurer la performance des centres de données.

Les usines d’IA ne se résument pas aux GPU

Dans une usine d’IA, l’actif le plus précieux reste souvent le GPU. Tout goulot d’étranglement qui réduit son taux d’utilisation pèse directement sur le coût par tâche, le délai de réponse et la rentabilité de l’infrastructure. Cette idée rejoint un constat déjà posé sur l’usine d’IA et les limites du modèle seul : les charges d’IA ne se résument plus à saisir une requête et obtenir une réponse, elles combinent modèles, agents, outils, recherche, bases de données, code et workflows dans une chaîne de plus en plus longue.

Vera ne se limite donc pas à accompagner le GPU : elle vise à unifier agents, données, sandboxes, service d’inférence et apprentissage par renforcement. Elle accompagnera la plateforme NVIDIA Vera Rubin et sera liée à BlueField-4 STX, ce qui confirme la volonté de NVIDIA de contrôler davantage de couches de l’architecture des centres de données IA.

Le message stratégique : NVIDIA veut plus de place dans les serveurs

Vera a aussi une lecture concurrentielle. NVIDIA ne veut plus seulement vendre des GPU, elle veut définir toute l’architecture de la chaîne IA : GPU, CPU, réseau, interconnexion, DPU, logiciel, bibliothèques et orchestration. Le concurrent le plus visible sur ce terrain reste Qualcomm, qui avance ses propres CPU de data center IA avec Meta comme client via Dragonfly. Cette intégration verticale peut réduire les goulots d’étranglement, mais elle augmente aussi la dépendance à un seul fournisseur dans un secteur déjà concentré.

Pour les grands clients, la question sera technique autant qu’économique : une plateforme plus intégrée qui améliore le rendement par agent et réduit la latence vaut-elle le coût supplémentaire ? Il faudra aussi compter avec la disponibilité, la maturité, la compatibilité logicielle, la consommation, le refroidissement et la marge de négociation. L’annonce de la CPU Rosa, avec cœur Rigel basé sur Arm v9.2 et promettant plus de performance par cœur qu’Olympus à surface de silicium égale, montre que Vera s’inscrit dans une feuille de route et pas dans un coup isolé.

Le CPU n’est plus en second rôle

Ce qui rend Vera intéressant, ce n’est pas seulement la puce, c’est le changement d’angle qu’elle impose. Un GPU très puissant peut être limité par le stockage, le réseau, la mémoire, le CPU, la planification ou le logiciel : la vitesse d’un agent dépend de la performance globale du système. Regarder les seuls TFLOPS, la mémoire GPU ou le nombre d’accélérateurs par rack ne suffit plus. Il faut mesurer le temps qu’un agent met pour terminer une tâche réelle, le nombre de tours nécessaires, la part du temps passée dans les outils plutôt que dans le modèle, et l’endroit où le système se bloque.

Les GPU continueront à dominer, mais dans l’IA orientée agent, une part croissante des opérations importantes se joue entre deux appels au modèle. C’est précisément là que NVIDIA veut positionner Vera.

Questions fréquentes

Qu’est-ce que NVIDIA Vera ?
Une CPU NVIDIA pour centres de données IA, conçue pour un rendement élevé par cœur, une large bande passante mémoire et des charges orientées agent à nombreuses étapes séquentielles.

Pourquoi le rendement monothread compte-t-il autant pour l’IA ?
Parce que de nombreuses étapes dépendent du résultat de la précédente. Si un outil, un test ou une requête est plus lent, tout le cycle de l’agent en pâtit.

Vera remplace-t-elle les GPU ?
Non. Elle travaille aux côtés des GPU pour accélérer les tâches CPU liées au modèle : outils, code, données, vérification et orchestration.

En quoi Vera diffère-t-elle des CPU traditionnels de centres de données ?
Elle combine 88 cœurs Olympus, un rendement élevé par cœur, 1,2 To/s de mémoire LPDDR5X et une interconnexion interne de 3,4 To/s entre cœurs.

Les chiffres de rendement sont-ils indépendants ?
Non, ils viennent de NVIDIA et de partenaires comme Perplexity, Starburst ou Redpanda. Chaque organisation doit les valider dans ses propres environnements.

via : blogs.nvidia