Google DeepMind a lancé DiffusionGemma, un modèle expérimental ouvert qui remet en cause l’une des bases établies des grands modèles de langage : la génération séquentielle de texte. Contrairement à la majorité des LLM actuels, qui produisent réponse après réponse en token, ce nouveau modèle opère par blocs entiers et peut affiner jusqu’à 256 tokens simultanément. NVIDIA a optimisé DiffusionGemma pour une exécution plus rapide sur les GPUs GeForce RTX, stations RTX PRO et systèmes DGX Spark, dans le but d’accélérer l’IA en local sur des équipements personnels et professionnels.

Ce progrès est significatif car l’IA générative ne se limite pas à la taille des modèles. Elle cherche aussi à offrir des modèles plus rapides, plus efficaces et plus proches de l’utilisateur. L’exécution locale peut réduire la latence, améliorer la confidentialité, éviter les coûts liés aux tokens via des API externes, et permettre aux développeurs, chercheurs ou entreprises de tester des assistants et agents sans dépendre en permanence du cloud.

De la génération token par token à une production par blocs

La plupart des modèles de langage actuels sont autoregressifs, ce qui signifie qu’ils génèrent chaque réponse de façon séquentielle, un token après l’autre. Chaque token dépend du précédent, ce qui limite la vitesse de génération. C’est pour cette raison que de nombreuses interfaces IA donnent l’impression d’être peu à peu « tapées », comme si quelqu’un écrivait en direct.

DiffusionGemma adopte une approche différente. Inspiré des modèles de diffusion utilisés en génération d’image, il part d’une représentation bruitée qu’il affine jusqu’à obtenir un texte cohérent. Au lieu d’attendre la génération du token suivant, le modèle traite des blocs jusqu’à 256 tokens en parallèle. L’objectif n’est pas seulement d’accélérer la sortie, mais aussi de changer la nature de la charge computationnelle.

NVIDIA explique cela techniquement : la génération autoregressive est souvent limitée par la mémoire, car le modèle passe beaucoup de temps à manipuler des données. La diffusion par blocs déplace davantage de travail vers le calcul parallèle, domaine où les GPU modernes excellent. Les Tensor Cores et l’écosystème CUDA permettent d’optimiser cette architecture dès le départ.

DiffusionGemma repose sur Gemma 4, une architecture de type mixture-of-experts comportant 26 milliards de paramètres, dont 3.800 millions activés à chaque étape. Sur cette base, Google DeepMind intègre une tête de diffusion pour générer du texte par blocs. Bien qu’expérimental, ce procédé ouvre une voie potentielle pour des modèles à faible latence en usage individuel.

NVIDIA favorise l’IA locale à faible latence

L’optimisation de NVIDIA vise à faire de DiffusionGemma un outil pratique pour la génération rapide de texte en local. La société indique que le modèle peut atteindre jusqu’à 1 000 tokens par seconde sur un GPU NVIDIA H100 Tensor Core, 800 tokens/sec sur une station DGX, et 150 tokens/sec sur DGX Spark. En situation monoposte, NVIDIA évoque une amélioration de jusqu’à 4 fois par rapport à un modèle autoregressif équivalent.

Ces chiffres doivent s’appréhender dans le contexte de l’annonce et des environnements de test, mais ils indiquent une direction claire : faire de l’IA locale une réponse suffisamment rapide pour les agents, assistants, programmation, recherche et flux interactifs. Dans ces usages, la latence est cruciale : si le modèle est trop lent, il rompe le rythme de travail.

DiffusionGemma pourra s’exécuter sur des machines équipées de GeForce RTX via Hugging Face Transformers, NVIDIA annonçant aussi un support prochain pour llama.cpp. Pour des charges plus exigeantes, vLLM offre une solution dès le premier jour. Pour l’adaptation à des tâches spécifiques, une fine-tuning sera possible avec Unsloth et NVIDIA NeMo.

Le rôle de DGX Spark est particulièrement intéressant. NVIDIA le présente comme un super-ordinateur personnel d’IA, basé sur le GB10 Grace Blackwell Superchip et doté de 128 Go de mémoire unifiée. Son objectif est d’offrir un prototypage, un fine-tuning et des agents locaux à des équipes ne souhaitant pas dépendre d’un cluster distant pour chaque expérimentation.

Ce qu’apporte cette approche face aux modèles traditionnels

La promesse majeure de DiffusionGemma réside dans sa rapidité perçue. Un assistant capable de générer des blocs complets avec une faible latence peut donner l’impression d’un outil immédiat plutôt que d’une conversation lente. Cela est précieux dans des environnements où l’utilisateur doit itérer constamment : écrire du code, revoir une documentation, rédiger des brouillons, tester des idées, analyser des logs ou construire des agents planifiant et exécutant des étapes.

Elle peut aussi avoir de la valeur dans des flux agentiques. Un agent IA ne répond pas seulement à une question. Il lit le contexte, décide d’une action, consulte des outils, analyse des résultats et poursuit son action. Si chaque étape est trop lente, le système entier devient lourd. Réduire la latence de la génération peut améliorer l’expérience et augmenter le nombre de cycles de raisonnement ou d’action en un temps donné.

Cependant, le modèle devra faire ses preuves sur des tâches concrètes. Générer du texte rapidement ne suffit pas si les réponses manquent de précision, de cohérence ou de capacité à suivre des instructions. Les modèles autoregressifs, optimisés depuis des années, restent la référence pour de nombreux usages de raisonnement, de programmation, de rédaction et d’analyse. DiffusionGemma ouvre une voie alternative, mais ne remplace pas immédiatement les modèles leaders.

Sa licence Apache 2.0 constitue un atout évident pour les développeurs et les entreprises souhaitant expérimenter. La disponibilité ouverte des poids sous licence permissive facilite les tests, l’intégration dans des produits, la recherche et le déploiement, sans les mêmes restrictions que les modèles fermés. Dans un marché où la dépendance aux API propriétaires est de plus en plus questionnée, cette liberté a son importance.

L’IA locale, un mouvement qui monte face au cloud

Ce lancement s’inscrit dans une tendance plus large : le retour de l’IA sur les dispositifs. Les grands modèles continueront à opérer dans les centres de données, pour des tâches nécessitant une puissance de calcul énorme. Mais tout n’a pas besoin d’être dans le cloud. Les assistants personnels, modèles spécialisés, agents de développement, génération rapide de texte, analyse privée ou prototypage peuvent tirer avantage de l’exécution en local.

L’avantage n’est pas seulement technique. L’IA locale permet de protéger des données sensibles, d’éviter la latence réseau, de maîtriser les coûts variables, et de fonctionner hors ligne dans certains contextes. Pour les entreprises, cela peut concerner des environnements avec des informations confidentielles ou des exigences de souveraineté. Pour les développeurs, cela offre plus de liberté pour expérimenter sans dépendre d’API externes.

NVIDIA a un intérêt évident à promouvoir cette tendance. Son parc de GPUs RTX déjà massif permet à de nombreux utilisateurs de faire tourner des modèles en local. Si l’écosystème de modèles ouverts progresse et s’améliore, les GPUs grand public et stations professionnelles peuvent devenir une plateforme naturelle pour une IA personnalisée et décentralisée.

De son côté, Google DeepMind gagne en présence dans l’univers des modèles ouverts avec une architecture différente et une approche expérimentale. Gemma constituait déjà une option pour les modèles ouverts dans l’écosystème Google. DiffusionGemma propose maintenant une variante orientée vers la vitesse et la génération parallèle.

Une étape supplémentaire dans la diversification des modèles

L’IA générative ne se résume plus à une course à la taille. Plusieurs directions émergent simultanément : modèles plus petits et spécialisés, architectures mixture-of-experts, modèles multimodaux, raisonnement, agents, inférence locale, quantification, diffusion de texte et accélération hardware spécifique.

DiffusionGemma s’inscrit dans cette diversification. Sa vocation n’est pas de répondre à tous les cas d’usage, mais d’ouvrir une voie pour des applications où la vitesse de réponse prime sur l’extraction maximale de performance sur benchmarks. Si la qualité est au rendez-vous, les modèles de diffusion pourraient occuper leur propre espace aux côtés des autoregressifs.

Pour le secteur technologique, la conclusion est claire : la prochaine étape de l’IA ne dépendra pas uniquement de plus de centres de données et de GPUs dans le cloud. Elle passera aussi par des modèles utiles sur le poste de travail, dans la station, et en hardware local. La combinaison de poids ouverts, faible latence et accélération sur GPU grand public pourrait devenir une voie majeure pour un usage plus large de l’IA, hors des grandes plateformes.

Google DeepMind fournit le modèle, NVIDIA l’accélération et l’écosystème d’exécution. Ce partenariat donne lieu à une expérimentation à suivre, car il soulève une question essentielle : quelle partie de l’intelligence artificielle future vivra dans le cloud, et laquelle fonctionnera directement sur l’ordinateur de l’utilisateur ?

Questions fréquentes

Qu’est-ce que DiffusionGemma ?

DiffusionGemma est un modèle expérimental ouvert de Google DeepMind qui génère du texte via diffusion, en raffinant des blocs jusqu’à 256 tokens en parallèle.

Pourquoi NVIDIA l’a-t-elle optimisé ?

Parce que son architecture profite pleinement du calcul parallèle des GPUs. NVIDIA cherche à accélérer son exécution sur GeForce RTX, RTX PRO, DGX Spark, DGX Station et GPUs de centre de données.

Quels avantages par rapport à un modèle autoregressif ?

Il peut réduire la latence en générant du texte par blocs plutôt que token par token. Selon NVIDIA, il peut être jusqu’à quatre fois plus rapide dans certains scénarios monoposte.

Quel est l’intérêt de l’exécuter en local ?

L’exécution locale offre moins de latence, plus de confidentialité, un meilleur contrôle des coûts, et la possibilité de prototyper sans dépendre systématiquement d’une API cloud.