Les Unités de Traitement Neural (UTN ou NPU) ne sont plus une simple curiosité réservée aux mobiles : elles deviennent une composante standard du hardware dans les ordinateurs portables et de bureau. Qualcomm atteint déjà 80 TOPS avec Snapdragon X2, AMD tourne autour de 50-55 TOPS avec Ryzen AI, Intel propose jusqu’à 50 TOPS avec la série Core Ultra Series 3, et Apple intègre depuis plusieurs années son Neural Engine dans ses appareils. Cependant, posséder une NPU ne signifie pas que la GPU n’est plus nécessaire : ces deux accélérateurs répondent à des problématiques distinctes. Pour un développeur, le choix approprié dépend bien plus du modèle de l’algorithme et du logiciel utilisé que d’une simple valeur de TOPS.

Les fondamentaux de la NPU vs GPU en 20 secondes

• Une NPU est principalement conçue pour exécuter localement des tâches d’IA à faible consommation énergétique.
• La GPU reste beaucoup plus flexible et est généralement privilégiée pour l’entraînement et l’inférence intensifs.
• Les PC équipés de Copilot+ nécessitent une NPU capable de dépasser 40 TOPS.
• Qualcomm atteint 80 TOPS, AMD tourne autour de 50-55 TOPS, et Intel propose jusqu’à 50 TOPS avec ses plateformes actuelles.
• Pour programmer localement de l’IA, il faut à la fois un logiciel compatible et une puissance suffisante du chipset.

L’émergence des NPUs répond à un besoin précis : réaliser en continu des opérations telles que la reconnaissance vocale, l’analyse d’images, la réduction de bruit ou l’utilisation de petits modèles d’intelligence artificielle par le CPU peut consommer beaucoup de ressources. Utiliser une GPU dédiée fonctionne, mais ce n’est pas toujours la solution la plus efficace pour des tâches qui doivent tourner de manière prolongée, notamment sur un portable.

L’industrie a donc décidé d’intégrer une troisième composante spécialisée : la NPU.

CPUs, GPUs et NPUs ne ciblent pas exactement le même type de tâches

Un CPU est conçu pour traiter une grande diversité d’opérations. Il dispose d’un petit nombre de cœurs sophistiqués capables d’exécuter des logiques complexes, gérer le système d’exploitation et répondre rapidement à des charges très variées.

La GPU adopte une approche différente : elle possède une capacité massive pour exécuter de nombreuses opérations en parallèle, initialement idéale pour le rendu graphique, puis pour le traitement matriciel et des tenseurs en machine learning.

La NPU va plus loin dans cette spécialisation.

Elle est construite spécifiquement pour les opérations classiques dans les réseaux neuronaux, et travaille généralement efficacement avec des formats numériques à faible précision utilisés lors de l’inférence.

Une comparaison simplifiée donnerait :

La conséquence concrète est que la question ne doit pas simplement être «GPU ou NPU ? ».

De nombreux ordinateurs modernes disposent simultanément de CPU, GPU intégré et NPU. Le système peut choisir celui à utiliser en fonction de la charge.

Microsoft décrit cette approche avec Windows ML : un environnement d’inférence unique capable de diriger les modèles vers CPU, GPU ou NPU via différents fournisseurs d’exécution. La société considère que la NPU est particulièrement adaptée pour l’inférence continue avec une efficacité énergétique optimale, tandis que les GPU, surtout ceux dédiés, conviennent pour des charges lourdes comme l’imagerie, la vidéo ou l’IA générative.

Les TOPS aident, mais ne permettent pas de comparer directement toutes les NPUs

La valeur marchande la plus utilisée pour les PC avec IA est le TOPS, Trillions d’Opérations Par Seconde, c’est-à-dire des milliards d’opérations par seconde, exprimés en échelle anglosaxonne (10¹²).

Microsoft a fixé une référence notable en exigeant plus de 40 TOPS pour les PC Copilot+.

En août 2026, certaines plateformes présentent à peu près ces chiffres :

Qualcomm a pratiquement doublé la capacité de sa première génération pour PC ARM : ses Snapdragon X2 Elite et X2 Extreme intègrent une NPU Hexagon de 80 TOPS, chiffre également atteint par le Snapdragon X2 Plus.

Intel, de son côté, a lancé en 2026 ses Core Ultra Series 3, initialement connus sous le nom de Panther Lake, fabriqués en technologie Intel 18A. Les modèles haut de gamme atteignent 50 TOPS uniquement pour la NPU, contrairement aux 60-65 TOPS prévus initialement par certaines rumeurs.

AMD offre jusqu’à 50 TOPS sur une grande partie des Ryzen AI 300 et Ryzen AI Max, avec des versions comme le Ryzen AI 9 HX 375 atteignant jusqu’à 55 TOPS.

Apple emploie une dénomination différente : Neural Engine. Le M4, avec 16 cœurs, est annoncé capable d’atteindre jusqu’à 38 trillions d’opérations par seconde.

Mais comparer directement ces chiffres présente des limites :

Une valeur TOPS dépend de la précision numérique retenue, des opérations comptabilisées et de l’architecture même de l’accélérateur. Une NPU avec une valeur nominale de TOPS plus élevée ne garantit pas qu’elle exécutera un modèle précis plus rapidement qu’une autre avec un score inférieur.

Il faut également prendre en compte :

• la largeur de bande mémoire ;
• la quantité de mémoire disponible ;
• les opérateurs compatibles ;
• la précision numérique utilisée ;
• le compilateur ;
• le runtime ;
• la taille du modèle ;
• l’architecture neuronale ;
• la capacité à maintenir les données dans l’accélérateur.

Ainsi, 80 TOPS n’équivalent pas systématiquement à un doublement du rendement réel par rapport à 40 TOPS.

Le logiciel devient aussi crucial que la NPU

Voici sans doute la question la plus importante pour un programmeur.

Une GPU NVIDIA peut faire tourner une grande variété de logiciels grâce à un écosystème solide construit autour de CUDA, cuDNN, TensorRT, PyTorch et autres outils, depuis des années.

Les NPUs disposent encore d’un écosystème plus fragmenté.

Microsoft tente de réduire cette fragmentation avec Windows ML, plateforme recommandée depuis 2026 pour l’inférence locale.

Windows ML utilise ONNX Runtime et peut charger différents fournisseurs d’exécution spécifiques à chaque fabricant. Ainsi, une application peut fonctionner avec un modèle ONNX, et Windows se charge de sélectionner l’accélérateur adapté.

C’est une avancée majeure par rapport à DirectML.

DirectML continue d’être supporté, mais Microsoft le maintient en mode de maintenance, en transférant le développement vers Windows ML pour les déploiements ONNX.

Sur macOS, Apple propose une intégration bien plus poussée.

Core ML peut répartir automatiquement le traitement entre CPU, GPU et Neural Engine, en sélectionnant en temps réel la ressource la plus adaptée pour minimiser la consommation mémoire et d’énergie. De plus, le modèle peut s’exécuter entièrement sur l’appareil sans connexion Internet.

Pour le développeur, cette différenciation est bien plus importante que la seule connaissance des TOPS.

Une NPU peut-elle exécuter un LLM ?

Oui, mais avec plusieurs nuances.

Les NPUs peuvent exécuter des modèles génératifs et de grands modèles linguistiques (LLM) compatibles, surtout lorsqu’ils sont quantifiés et optimisés pour l’accélérateur.

Cependant, cela ne signifie pas qu’une NPU de portable remplacera automatiquement une GPU RTX pour les outils d’IA locaux.

Un LLM nécessite essentiellement deux ressources : une capacité de calcul suffisante et une mémoire assez grande pour stocker ses poids et le cache KV.

Par exemple, un modèle de 7 milliards de paramètres quantifiés en 4 bits requiert plusieurs gigaoctets uniquement pour ses poids. Avec l’augmentation du contexte, la mémoire nécessaire pour le cache KV est également renforcée.

Une GPU dédiée dispose de VRAM à haut débit conçue pour ce genre de travaux, alors que beaucoup de NPUs dépendent de la mémoire partagée du système et ont des restrictions sur les opérateurs et modèles compatibles.

Cela rend la NPU particulièrement adaptée pour :

• petits modèles ;
• classification ;
• détection d’objets ;
• reconnaissance vocale ;
• annulation de bruit ;
• segmentation ;
• traduction ;
• traitement vidéo ;
• embeddings ;
• assistants légers en local ;
• fonctions IA en arrière-plan.

Une GPU dédiée reste généralement supérieure pour exécuter rapidement de gros modèles génératifs.

Une NPU n’est pas principalement conçue pour l’entraînement

Un autre aspect important est celui de l’entraînement des modèles.

Les NPUs pour PC actuelles sont essentiellement conçues pour l’inférence, c’est-à-dire faire fonctionner des modèles déjà entraînés.

Les GPU disposent d’une architecture et d’un logiciel bien plus mature pour l’entraînement, le fine-tuning, et la gestion de gros tenseurs.

Ainsi, un développeur travaillant principalement avec :

PyTorch
CUDA
LoRA
QLoRA
fine-tuning
Stable Diffusion
gros LLM
entraînement distribué

tirera beaucoup plus de bénéfices d’une GPU puissante que de simplement augmenter la valeur de TOPS de la NPU.

Une NPU peut compléter ce matériel, mais ne le remplacera pas pour l’instant.

Quand opter pour une NPU ou investir dans une GPU

Pour le développement classique, il est probablement déconseillé d’acheter un ordinateur uniquement pour sa NPU.

Si vous programmez des applications back-end, en Java, .NET, Go, Rust, PHP ou du développement web traditionnel, la performance du CPU, la mémoire et le stockage seront bien plus déterminants.

En revanche, la situation change si vous développez de l’IA directement sur appareil.

Une NPU est pertinente lorsque l’objectif est de créer des applications exploitant en continu de petits modèles sans envoyer de données vers le cloud. C’est particulièrement intéressant pour des logiciels d’entreprise où la confidentialité, la faible latence et le fonctionnement hors-ligne importent.

Voici quelques exemples :

Transcription locale. L’audio peut être traité sans le transférer à l’extérieur de l’appareil.

Analyse d’image. Une application peut détecter des objets ou classer des photos en continu, tout en consommant moins d’énergie qu’avec une GPU dédiée.

Vidéo-conférence. Le floutage d’arrière-plan, le suivi facial, la correction du regard ou la suppression du bruit peuvent être maintenus actifs durant un appel.

Sécurité. Certains modèles de détection peuvent analyser localement l’activité ou le contenu sans transmettre de données.

Applications hors-ligne. Le modèle continue de fonctionner sans connexion Internet, sans coûts liés aux API.

Pour l’IA générative lourde ou pour l’entraînement avec CUDA, la priorité reste généralement la GPU.

La meilleure architecture : combiner les trois

L’évolution du PC tend vers une architecture hétérogène :

                  APPLICATION
                      │
            ┌─────────┼─────────┐
            │         │         │
            ▼         ▼         ▼
           CPU       GPU       NPU
            │         │         │
     logique système  IA lourde  IA efficace
     contrôle     génération     permanente
                 d’images       locale

Microsoft construit déjà Windows ML autour de cette idée : une même application pouvant s’appuyer sur CPU, GPU ou NPU en fonction du modèle et du hardware disponible.

Apple applique depuis des années une philosophie similaire avec Core ML, qui décide entre CPU, GPU et Neural Engine en temps réel.

Ainsi, la NPU n’est pas simplement une nouvelle GPU, mais un « troisième processeur spécialisé » permettant d’exécuter des charges de travail où utiliser la GPU serait énergétiquement coûteux ou inefficace.

Ce concept deviendra de plus en plus crucial à mesure que des systèmes d’exploitation intégreront agents, recherche sémantique, traduction, vision et reconnaissance vocale en permanence active.

Une GPU peut faire cela aussi. La question est de savoir si cela a du sens de la faire fonctionner en continu pour une tâche qu’une NPU pourrait prendre en charge avec une consommation d’énergie bien moindre.

Questions fréquentes

Quelle est la différence entre une GPU et une NPU ?

La GPU est un processeur parallèle de usage général, utilisé pour le rendu graphique, l’IA et la calculabilité. La NPU est bien plus spécialisée dans les opérations de réseaux neuronaux, et privilégie l’efficacité lors de l’inférence.

Une NPU peut-elle remplacer une GPU pour l’intelligence artificielle ?

Pas dans tous les cas. Elle peut être meilleure pour certaines inférences locales à faible consommation, mais les GPU offrent toujours plus de flexibilité et de performance pour l’entraînement, les gros modèles ou l’IA générative avancée.

De combien de TOPS a besoin un PC Copilot+ ?

Microsoft fixe la barre à plus de 40 TOPS, en complément d’autres critères hardware et software.

Que doit privilégier un développeur : GPU ou NPU ?

Pour l’entraînement, la génération d’images ou le gros LLM, une GPU dédiée est souvent plus adaptée. Pour des applications d’inférence locale permanente, de reconnaissance vocale, de vision ou d’IA intégrée dans Windows, macOS ou les appareils mobiles, la NPU devient très intéressante.