Apple transforme le Mac Studio M5 Ultra en une station IA locale de 512 Go

Apple transforme le Mac Studio M5 Ultra en une station IA locale de 512 Go

Apple a révolutionné le terrain de jeu du Mac Studio avec le M5 Ultra. La nouveauté la plus remarquable ne réside pas uniquement dans le fait qu’il soit le Mac le plus puissant à ce jour, mais surtout dans une configuration rarement vue sur une machine de bureau : jusqu’à 512 Go de mémoire unifiée avec 1,2 To/s de bande passante. Des chiffres qui placent le nouveau Mac dans une catégorie différente, celle des stations de travail conçues pour exécuter localement de grands modèles d’intelligence artificielle.

Les clés du Mac Studio M5 Ultra pour l’IA en 30 secondes

  • Le nouveau Mac Studio avec M5 Ultra supporte jusqu’à 512 Go de mémoire unifiée et atteint 1,2 To/s de bande passante.
  • Apple garantit qu’il peut exécuter localement des modèles linguistiques comptant des centaines de milliards de paramètres.
  • Le M5 Ultra peut intégrer une CPU de 36 cœurs et une GPU de 80 cœurs avec des Neural Accelerators.
  • NVIDIA DGX Spark offre 128 Go de mémoire cohérente et l’écosystème CUDA dès 4 699 dollars.
  • Le gros avantage d’Apple est la capacité d’héberger d’énormes modèles dans une seule mémoire ; son principal inconvénient reste un logiciel d’IA moins mature que CUDA.

Apple a annoncé le nouveau Mac Studio le 25 août et commencera à le livrer le 22 septembre 2026. La configuration de 512 Go sera disponible ultérieurement, fin octobre. Aux États-Unis, le modèle avec M5 Max débute à 2 499 dollars, et le M5 Ultra à partir de 5 499 dollars, avant ajout de mémoire, stockage et autres personnalisations.

Comparer uniquement à un PC traditionnel est peu pertinent. Le nouveau Mac Studio peut finir par coûter plusieurs milliers de dollars de plus qu’une station de travail équipée d’un GPU de consommation, mais il ne cherche pas à résoudre exactement le même problème.

512 Go de mémoire : à quoi sert vraiment un Mac Studio

La mémoire devient l’une des limitations majeures de l’intelligence artificielle exécutée localement.

Une GPU de bureau avec 24 ou 32 Go peut offrir de très bonnes performances, mais le modèle doit tenir dans sa mémoire vidéo ou utiliser des mécanismes pour répartir les données entre GPU et RAM, avec une perte de performance associée.

Le design d’Apple Silicon fonctionne autrement. CPU, GPU et autres composants du système partagent le même espace de mémoire unifiée.

En configuration maximale, le M5 Ultra dispose de 512 Go.

Cela ne signifie pas que les 512 Go peuvent tous être utilisés pour stocker un seul modèle, car macOS, les applications et l’environnement d’exécution en ont aussi besoin. Cependant, cela offre une marge difficile à trouver dans une station de travail classique à GPU unique.

Pour en avoir une idée, il suffit d’observer la taille approximative des modèles.

Un modèle dense de 70 milliards de paramètres nécessiterait environ 140 Go uniquement pour ses poids si ceux-ci sont stockés en 16 bits par paramètre. Avec une quantification à 8 bits, il se rapprocherait de 70 Go, et à 4 bits, d’environ 35 Go.

Le calcul ne s’arrête pas là. Pendant une inférence, d’autres ressources sont consommées : cache KV, contexte, structures du framework, activations temporaires et applications auxiliaires.

C’est pourquoi le fait qu’un fichier de modèle entre dans la mémoire ne garantit pas qu’il puisse être exécuté confortablement.

Avec 256 ou 512 Go, Apple augmente considérablement cette marge.

La société affirme que le nouveau M5 Ultra peut traiter directement de grands modèles linguistiques de centaines de milliards de paramètres sur le seul appareil.

1,2 To/s : la donnée qui illustre le mieux l’approche d’Apple

La capacité de mémoire n’est qu’une partie de l’équation. L’autre est le temps d’accès du processeur à cette mémoire.

Le M5 Ultra offre 1,2 To/s de bande passante mémoire, soit 50 % de plus que le M3 Ultra selon Apple.

Ce chiffre est particulièrement crucial lors de l’inférence de modèles linguistiques.

Dans certains scénarios, notamment quand on génère du texte pour peu d’utilisateurs simultanément, la performance dépend fortement de la rapidité avec laquelle les poids du modèle parviennent aux unités de calcul.

Un système peut disposer de suffisamment de mémoire pour charger un modèle, mais fonctionner lentement si celle-ci ne fournit pas le débit nécessaire.

Apple combine ici ces deux variables : une grande mémoire dans un seul système et un débit élevé vers le GPU.

Le M5 Ultra peut également atteindre 36 cœurs CPU et 80 cœurs GPU, avec des Neural Accelerators intégrés dans les cœurs graphiques.

Apple garantit que le processeur offre jusqu’à 4,3 fois la performance IA maximale de l’ancien M3 Ultra. Ces chiffres proviennent de tests internes, il faudra donc attendre des benchmarks indépendants pour confirmer ces performances en tokens/sec.

Le concurrent n’est pas forcément un PC : NVIDIA DGX Spark en comparaison

Une comparaison plus pertinente consiste à mettre le Mac Studio face à des équipements spécifiquement conçus pour l’IA locale.

NVIDIA DGX Spark coûte actuellement 4 699 dollars sur le magasin américain de NVIDIA et utilise le superchip Grace Blackwell GB10.

Il dispose de :

  • 128 Go de mémoire cohérente unifiée LPDDR5x
  • 273 Go/s de bande passante
  • Jusqu’à 1 PFLOP de performance FP4
  • NVIDIA ConnectX-7 à 200 Gb/s
  • 4 To de stockage NVMe
  • DGX OS et accès à l’environnement logiciel NVIDIA

NVIDIA affirme qu’un DGX Spark peut traiter des modèles IA jusqu’à 200 milliards de paramètres, avec du fine-tuning jusqu’à 70 milliards.

De plus, ses systèmes peuvent s’interconnecter via ConnectX. La documentation NVIDIA envisage même la mise en réseau de plusieurs DGX Spark pour gérer des modèles plus grands.

Voici une différence essentielle :

Deux DGX Spark regroupent 256 Go de mémoire combinée, mais ce sont deux machines séparées, avec deux espaces mémoire distincts. Si un modèle doit utiliser les deux, il doit répartir ses ressources, avec communication via le réseau.

Un Mac Studio avec 256 Go offre cette capacité dans une seule mémoire unifiée. La configuration à 512 Go double encore cet espace avant de nécessiter la division entre plusieurs machines.

Cela ne veut pas dire que le Mac Studio est forcément plus rapide.

Capacité et performance ne sont pas la même chose.

NVIDIA maintient des avantages significatifs en kernels IA, précision, Tensor Cores, frameworks et logiciels spécialisés. Apple tente de compenser en proposant une capacité de mémoire exceptionnellement grande dans un seul ordinateur.

CUDA, la grande force de NVIDIA

Le hardware n’est qu’une partie d’une plateforme d’IA.

Depuis près de vingt ans, NVIDIA a développé autour de CUDA un vaste écosystème de bibliothèques, outils, frameworks et optimisations qui constituent aujourd’hui le socle de nombreux systèmes IA.

PyTorch, TensorRT-LLM, NCCL, NVIDIA NIM et de nombreux projets open source sont souvent optimisés pour GPU NVIDIA en premier.

Apple dispose aussi d’alternatives de plus en plus avancées.

MLX est conçu spécifiquement pour Apple Silicon et son architecture de mémoire unifiée. Metal offre une accélération pour applications et frameworks, tandis que des projets comme llama.cpp et des outils comme LM Studio facilitent l’exécution de modèles locaux.

Mais il n’existe pas d’équivalence parfaite entre ces deux univers.

Un modèle qui tient en 512 Go peut utiliser une opération encore peu optimisée en Metal. Un projet développé en pensant CUDA peut nécessiter des adaptations pour fonctionner efficacement sous Apple Silicon.

C’est pourquoi la quantité de mémoire ne devrait pas être le seul critère d’achat.

Apple veut aussi que plusieurs Mac Studio forment un cluster

Apple a introduit une autre fonctionnalité intéressante via Thunderbolt 5 et RDMA (Remote Direct Memory Access).

La société permet de connecter plusieurs Mac Studio pour répartir certains travaux d’IA. Apple affirme que le nouveau modèle peut atteindre jusqu’à trois fois plus de performance en inférence distribuée par rapport à un seul système, selon ses tests.

RDMA facilite la transmission d’informations entre mémoires de différents ordinateurs en minimisant l’intervention des CPU.

Cependant, une connexion entre machines ne doit pas être confondue avec l’accès à la mémoire interne du processeur.

Les 1,2 To/s du M5 Ultra se référent à la bande passante de sa mémoire locale. Les 200 Gb/s avec ConnectX-7 de DGX Spark concernent une connexion réseau. Ce sont deux technologies distinctes conçues pour des fonctions différentes, et leurs chiffres ne se comparent pas directement.

L’avantage d’avoir 512 Go dans une seule machine est précisément de différer le moment où il faut répartir un modèle sur plusieurs machines.

Le Mac peut aussi gérer tout le pipeline IA

Les grands modèles ne travaillent généralement pas isolément.

Une application d’IA d’entreprise peut combiner un LLM avec OCR, embeddings, bases de données vectorielles, reranking, reconnaissance d’images, traitement documentaire et divers agents ou services.

Si le modèle principal consomme quasiment toute la mémoire d’une machine spécialisée, ces autres services devront s’exécuter ailleurs.

Les 512 Go du Mac Studio offrent une marge pour faire tourner plusieurs de ces charges dans le même système, sous réserve que le logiciel soit compatible.

C’est aussi une station de travail complète.

L’utilisateur dispose de macOS, Xcode, outils de développement, montage vidéo, navigateur, Thunderbolt 5, Ethernet 10 Gb et moteurs multimédia Apple pendant qu’il exécute ses charges d’IA.

Pour certains chercheurs, développeurs, universités, studios créatifs ou entreprises traitant des données sensibles, cette configuration peut être plus intéressante qu’une machine uniquement dédiée à l’inférence.

L’IA locale modifie aussi la gestion des données

Un autre avantage de ces appareils est la souveraineté des données.

Exécuter un modèle localement permet de travailler avec des informations sans forcément les envoyer vers un fournisseur cloud externe. Cela peut être utile pour le développement logiciel, la recherche, l’ingénierie, l’information d’entreprise ou dans des contextes de confidentialité stricte.

Cela ne transforme pas automatiquement un Mac Studio en substitut à un centre de données.

Entraîner un grand modèle pré-entraîné nécessite d’énormes clusters d’accélérateurs, réseaux spécialisés et bien plus de mémoire que ce qu’une station de travail peut offrir.

Ce qui rend les machines comme le M5 Ultra pertinentes, c’est leur capacité à faire de l’inférence, de l’évaluation, de la génération de données synthétiques, de l’expérimentation, de la distillation, et des techniques de fine-tuning efficaces comme LoRA ou QLoRA.

Apple parle d’entraînement local, mais il faut distinguer ces travaux du pré-entraînement d’un modèle de grande envergure.

Apple a construit quelque chose de plus proche d’une infrastructure IA que d’un PC

Le M5 Ultra reste un Mac Studio et garde tous les traits que l’on attend d’une station de travail professionnelle.

Mais ses spécifications montrent vers où Apple oriente sa stratégie.

512 Go de mémoire unifiée et 1,2 To/s de bande passante ne semblent pas conçus uniquement pour Final Cut Pro, Blender ou Xcode.

Ils permettent de dépasser une limitation clé de l’IA locale : la taille des modèles qui ne tiennent simplement pas dans la VRAM des GPU standards.

NVIDIA continue d’offrir un environnement logiciel IA bien plus mature, et DGX Spark offre un chemin direct du bureau vers des infrastructures CUDA plus grandes. Pour de nombreux développeurs, cette compatibilité reste un avantage précieux.

Apple propose une alternative inversée : des capacités accrues dans une seule machine, macOS et un environnement de développement complet, en sacrifiant CUDA.

Ainsi, le Mac Studio se retrouve à entrer dans une comparaison qu’il aurait peu fréquentée il y a encore quelques années.

Il ne s’agit plus simplement d’affronter des stations de création audiovisuelle. Pour certains acheteurs, la décision devient désormais entre une station NVIDIA dédiée à l’IA ou un Mac avec des centaines de gigaoctets de mémoire, capable d’exécuter un modèle tout en restant un ordinateur de travail.

Les premiers benchmarks indépendants du M5 Ultra avec des modèles réels permettront d’évaluer jusqu’où cette approche peut aller. La spécification offre au moins une claire direction : Apple souhaite que une partie de l’infrastructure IA puisse rentrer sous une table.

Foire aux questions

Quelle est la capacité maximale de mémoire du Mac Studio M5 Ultra ?

Le nouveau Mac Studio supporte jusqu’à 512 Go de mémoire unifiée avec le M5 Ultra doté de 36 cœurs CPU et 80 cœurs GPU. La version 512 Go sera disponible fin octobre 2026.

Le M5 Ultra peut-il exécuter de grands modèles IA localement ?

Oui. Apple affirme que sa mémoire unifiée permet d’exécuter des modèles de langage comportant des centaines de milliards de paramètres directement sur l’appareil. La taille exacte dépendra de la précision, quantification, contexte et runtime.

Un Mac Studio M5 Ultra est-il meilleur qu’un NVIDIA DGX Spark ?

Il n’y a pas de réponse unique. Le Mac offre jusqu’à 512 Go de mémoire unifiée et 1,2 To/s en bande passante ; le DGX Spark propose CUDA, les logiciels NVIDIA et du matériel spécifiquement conçu pour l’IA.

Peut-on connecter plusieurs Mac Studio pour travailler en IA ?

Oui. Apple permet l’utilisation de Thunderbolt 5 et RDMA pour relier plusieurs Mac Studio et distribuer certains travaux d’IA entre eux.

le dernier