Intel a présenté l’accélérateur IA Intel® Gaudi® 3, offrant une puissance de calcul quatre fois supérieure pour les BF16, une augmentation de 50 % de la bande passante mémoire et le double de la bande passante réseau pour une mise à l’échelle massive du système par rapport à son prédécesseur. Cela représente un bond significatif en termes de performances et de productivité pour l’entraînement et l’inférence IA sur les modèles de langue de grande taille (LLM) et les modèles multimodaux populaires. S’appuyant sur les performances et l’efficacité éprouvées de l’accélérateur IA Intel® Gaudi® 2 – la seule alternative sur le marché avec un score MLPerf pour LLM – Intel offre aux clients un choix avec un logiciel open source basé sur la communauté et des réseaux Ethernet standard pour échelonner leurs systèmes avec plus de flexibilité.
Justin Hotard, vice-président exécutif et directeur général du groupe des Centres de Données et IA d’Intel, déclare : « Dans le paysage changeant du marché de l’IA, il persiste un fossé significatif dans les offres actuelles. Les retours de nos clients et du marché en général soulignent le désir d’une plus grande variété d’options. Les entreprises évaluent des considérations telles que la disponibilité, l’évolutivité, la performance, le coût et l’efficacité énergétique. Intel Gaudi 3 se distingue comme l’alternative d’IA Générative qui présente une combinaison convaincante de performance-prix, d’évolutivité du système et d’avantage en termes de délai de valeur ».
À l’heure actuelle, les entreprises de secteurs critiques tels que la finance, la fabrication et la santé cherchent à élargir rapidement l’accès à l’IA et à faire la transition des projets d’IA Générative des phases expérimentales vers des déploiements à grande échelle. Pour gérer cette transition, stimuler l’innovation et atteindre les objectifs de croissance des revenus, les entreprises nécessitent des solutions et des produits ouverts, rentables et plus écoénergétiques qui répondent aux besoins de retour sur investissement (ROI) et d’efficacité opérationnelle.
L’accélérateur Intel Gaudi 3 répondra à ces exigences et offrira une polyvalence grâce à un logiciel open source basé sur la communauté et des réseaux Ethernet standard de l’industrie, aidant les entreprises à dimensionner de manière flexible leurs systèmes et applications IA.
L’architecture personnalisée d’Intel Gaudi 3, conçue pour un calcul IA efficace à grande échelle, est fabriquée dans un processus de 5 nanomètres et offre des avancées significatives par rapport à son prédécesseur. Elle est conçue pour permettre l’actuation en parallèle de tous les moteurs, avec le Moteur de Multiplication de Matrices (MME), les Noyaux de Traitement des Tenseurs (TPC) et les Cartes d’Interface Réseau (NIC), ce qui permet l’accélération nécessaire pour un calcul d’apprentissage profond rapide et efficace à l’échelle.
via : Intel
