L’innovation en intelligence artificielle (IA) a atteint un nouveau niveau avec l’annonce de ExaAILabs, qui a déployé son Exacluster, l’un des premiers clusters de l’industrie basés sur les GPUs Nvidia H200 Hopper. Ce cluster n’est pas seulement un jalon technologique, mais vise également à révolutionner la manière dont nous interagissons avec les moteurs de recherche, avec l’objectif ambitieux de surpasser Google dans la compréhension et le traitement des requêtes complexes.

Un coup d’œil à l’Exacluster

L’Exacluster se distingue par sa puissance impressionnante et son design spécialisé :

• Matériel : Il est composé de 18 serveurs équipés de 8 GPUs Nvidia H200 chacun, totalisant 144 GPUs avec 20TB de mémoire HBM3E (141GB par GPU). Ce design offre une performance combinée de 570 PetaTOPS, une capacité cruciale pour l’entraînement de réseaux neuronaux avancés.
• Processeurs : 192 CPUs de 96 cœurs, atteignant un total de 3.456 cœurs de traitement.
• Mémoire et stockage :
  • 36TB de mémoire DDR5.
  • 270TB de stockage NVMe.
• Refroidissement et efficacité énergétique : Malgré sa puissance, l’Exacluster utilise un refroidissement par air standard et consomme 100kW d’énergie. Seulement deux machines sont installées par rack pour assurer un refroidissement optimal.

Un investissement stratégique et économique

Le coût total de l’Exacluster s’élève à 5 millions de dollars, ce qui équivaut à environ 277.777 dollars par machine. Ce prix étonnamment bas pour un système aussi avancé a été possible grâce à la relation étroite d’ExaAILabs avec Nvidia, l’un de ses principaux investisseurs avec Lightspeed et YCombinator.

L’accès précoce aux GPUs H200 souligne également la position privilégiée d’ExaAI dans l’industrie, ce qui lui permet de tirer parti de la dernière technologie pour des projets uniques en IA.

L’objectif : Transformer les moteurs de recherche

L’Exacluster sera dédié à l’entraînement de réseaux neuronaux avancés avec un objectif clair : développer un moteur de recherche capable de comprendre les requêtes des utilisateurs de manière plus précise et d’offrir des résultats plus pertinents que les moteurs actuels leaders, y compris Google. Ce moteur vise à interpréter mieux le langage naturel et à répondre aux requêtes complexes, redéfinissant ce que nous attendons d’un moteur de recherche.

Impact et défis

Le déploiement de l’Exacluster souligne comment le calcul haute performance (HPC) et l’intelligence artificielle convergent pour aborder des problèmes de plus en plus complexes. Si ExaAILabs atteint son objectif, son moteur de recherche pourrait modifier considérablement la dynamique de l’industrie technologique et ouvrir de nouvelles possibilités dans l’utilisation de l’IA pour comprendre et traiter les données.

Cependant, la concurrence dans cet espace est féroce, et les attentes sont élevées. La capacité d’ExaAI à innover et à passer à l’échelle sa technologie déterminera si ce cluster deviendra le catalyseur d’une nouvelle ère dans les moteurs de recherche.

via : tom’s hardware