AMD a acquis Taalas, une petite entreprise canadienne innovant avec une idée radicalement différente de celle des GPU actuels : incorporer directement dans le silicium les poids d’un modèle d’intelligence artificielle. Son démonstrateur HC1 a atteint environ 16 960 tokens par seconde en exécutant Llama 3.1 8B, une performance difficile à obtenir avec des accélérateurs conventionnels, ce qui explique l’intérêt d’AMD pour cette société.

Les points clés de l’acquisition de Taalas par AMD en 20 secondes

• AMD a annoncé le 6 août l’acquisition de Taalas, sans dévoiler le montant de l’opération.
• Son démonstrateur HC1 exécute Llama 3.1 8B à environ 16 960 tokens par seconde, selon Taalas.
• La société intègre les poids du modèle directement au silicium pour réduire les mouvements de données.
• En contrepartie, cela réduit la flexibilité : modifier significativement le modèle nécessite la fabrication d’un nouveau matériel.
• AMD envisage de combiner cette technologie spécialisée avec ses accélérateurs Instinct.

AMD n’a pas simplement acquis une autre entreprise d’accélérateurs. Taalas propose une solution différente à l’un des grands défis économiques de l’inférence des modèles de langage : le transfert constant d’énormes quantités d’informations entre mémoire et unités de calcul.

Cela anticipe aussi une évolution possible des centres de données dédiés à l’IA. Au lieu d’utiliser la même GPU pour toutes les phases d’un traitement, certains modèles suffisamment stables pourraient finir par fonctionner sur du matériel spécifiquement conçu pour eux.

16 960 tokens par seconde avec une puce de 6 nanomètres

Taalas a présenté HC1 en février 2026 comme démonstration de son architecture. La puce est fabriquée selon un procédé de 6 nanomètres de TSMC, bien loin des nœuds les plus avancés utilisés actuellement pour certains des accélérateurs IA récents.

La caractéristique la plus impressionnante est une autre.

HC1 a été conçue spécifiquement pour exécuter Llama 3.1 8B, le modèle d’environ 8 milliards de paramètres présenté par Meta en 2024.

Taalas annonce des performances maximales proches de 17 000 tokens par seconde par utilisateur. Des tests ultérieurs réalisés sur la démo publique ont enregistré des vitesses autour de 15 000 tokens par seconde, confirmant que le système fonctionne dans cette ordre de grandeur.

La différence avec d’autres accélérateurs est considérable.

Lorsque Cerebras a lancé son service d’inférence pour Llama 3.1 8B, il communiquait des vitesses supérieures à 1 800 tokens par seconde. Sa documentation ultérieure situait la performance typique à environ 2 200 tokens/sec.

Taalas annonce que HC1 est à peu près 8,5 fois plus rapide que Cerebras et 48 fois plus rapide que certaines configurations NVIDIA utilisées dans leur comparaison.

Il est essentiel de considérer ces chiffres comme des indicateurs fournis par le fabricant. Les tokens par seconde ne constituent pas à eux seuls un benchmark universel : la performance dépend aussi de la précision, de la longueur du contexte, du batching, de la latence, du modèle, de la configuration et du nombre d’utilisateurs simultanés.

Ce qui est vraiment intéressant va au-delà de ces chiffres.

Le modèle ne voyage plus depuis la mémoire

Dans un accélérateur classique, il existe une séparation physique entre computation et mémoire.

Les GPU modernes tentent de réduire cette limite en utilisant d’énormes quantités de HBM (High Bandwidth Memory). NVIDIA, AMD et d’autres fabricants ont amélioré génération après génération la capacité et la bande passante disponible.

Mais lors de certaines phases d’inférence, notamment durant la génération séquentielle de tokens, le déplacement des poids peut devenir une des principales contraintes.

Taalas élimine une grande partie de ce problème de façon radicale : les poids sont intégrés physiquement au puce.

Son architecture utilise une région que la société appelle mask-ROM recall fabric. Les informations qui doivent rester modifiables utilisent de la SRAM, notamment la cache KV et les adaptations par LoRA.

En termes simplifiés, le processeur cesse de questionner en permanence une mémoire externe pour connaître les poids dont il a besoin, car une grande partie de ces données fait déjà partie de sa structure physique.

Le bénéfice en termes de performance et de consommation est énorme.

Le coût se paie en flexibilité.

Une GPU peut aujourd’hui exécuter Llama, demain Qwen, et après-demain un autre modèle totalement différent, simplement en chargeant d’autres poids.

Le chip de Taalas, non.

Modifications importantes du modèle nécessitent une nouvelle fabrication du silicium. Même si Taalas a expliqué que sa méthodologie permet de faire certains ajustements en agissant sur les couches métalliques du design, il reste un processus physique de fabrication.

Cela introduit une variable qui appartient normalement au logiciel dans le cycle économique du semi-conducteur : la durée de vie utile du modèle.

AMD souhaite combiner Taalas avec Instinct, sans remplacer ses GPU

Ce point permet de mieux comprendre l’acquisition.

AMD n’a pas annoncé que Taalas allait remplacer Instinct. Au contraire, elle explique vouloir intégrer sa technologie dans des solutions systémiques conjointement avec AMD Instinct.

Cela ouvre une perspective particulièrement intéressante : décomposer différentes étapes de l’inférence.

Le traitement initial d’un prompt et la génération suivante de tokens ont des caractéristiques computationnelles différentes. Il n’est pas forcément optimal d’utiliser le même matériel pour ces deux phases.

Une infrastructure future pourrait faire appel à des accélérateurs programmables comme Instinct pour les phases nécessitant plus de flexibilité et à des puces spécialisées pour exécuter la partie la plus stable en boucle.

La question d’infrastructure ne serait alors plus simplement :

Combien de GPU pour ce modèle ?

Elle évoluerait vers :

Quelle partie du travail doit tourner sur chaque type d’accélérateur ?

Ce développement est également visible dans d’autres architectures spécialisées d’inférence. Cerebras et Groq ont montré qu’il existe un espace en dehors des GPU classiques lorsque la priorité est d’obtenir de très faibles latences et des vitesses de génération élevées.

Le risque économique : combien de temps le modèle restera-t-il utile ?

Il subsiste toutefois une question moins technologique, potentiellement plus cruciale.

Un serveur équipé d’un GPU conserve une certaine flexibilité économique. Si un modèle devient obsolète, l’accélérateur peut être réutilisé pour autre chose.

Un ASIC conçu pour un modèle spécifique présente une situation différente.

Si le modèle disparaît du marché avant d’avoir amorti le matériel, sa capacité à être réutilisé diminue radicalement.

Ce problème peut aussi affecter la valorisation de l’infrastructure. Une GPU générique possède un marché secondaire et peut s’adapter à différentes charges. Il est beaucoup plus difficile d’évaluer, plusieurs années plus tard, un chip dont l’utilité dépend d’un modèle spécifique.

C’est pourquoi Taalas pourrait avoir plus de sens dans un premier temps là où les modèles évoluent peu et où le volume d’inférences est très élevé.

La détection de fraude, la classification, la vision industrielle, certains systèmes de recommandation ou des modèles d’entreprise très stabilisés peuvent correspondre à ce profil, contrairement à un service génératif qui change de modèle toutes les quelques semaines.

L’achat de Taalas soulève donc une question qui dépasse largement le simple chiffre de 16 960 tokens par seconde.

Au cours des dernières années, l’industrie a cherché à développer des accélérateurs de plus en plus programmables, capables d’exécuter presque tous les modèles. Taalas explore l’extrême inverse : sacrifier une partie de cette flexibilité pour éliminer les coûts liés au maintien de celle-ci.

AMD semble penser que ces deux approches peuvent coexister.

Et si cette stratégie fonctionne, dimensionner une plateforme d’inférence IA pourrait ne plus se limiter à choisir une seule famille de GPU. Le travail serait réparti entre différents accélérateurs en fonction des besoins en calcul, mémoire, flexibilité et vitesse à chaque étape.

Questions fréquentes

Quelle vitesse atteint la puce HC1 de Taalas ?

Taalas a annoncé environ 16 960 tokens par seconde en exécutant Llama 3.1 8B. C’est une donnée fournie par le fabricant, mais des tests sur sa démo publique ont obtenu des résultats du même ordre.

Pourquoi Taalas peut générer des tokens aussi rapidement ?

Sa conception intègre directement les poids du modèle dans le silicium, ce qui réduit les mouvements d’information entre mémoire externe et unités de calcul, limitant ainsi un facteur clé dans certains processus d’inférence.

HC1 peut-il exécuter n’importe quel modèle IA ?

Non. HC1 est spécifiquement conçue pour Llama 3.1 8B. La conception supporte certains changements et adaptateurs comme LoRA, mais toute modification majeure du modèle nécessite un nouveau hardware.

AMD remplacera-t-elle ses GPU Instinct par des puces Taalas ?

Ce n’est pas l’annonce. AMD indique qu’elle souhaite intégrer la technologie Taalas dans ses solutions systémiques avec ses GPU Instinct, ce qui ouvre la voie vers des architectures d’inférence plus spécialisées.