AMD présente ROCm 6.3 : Nouveaux outils open-source pour booster l’IA et le HPC

AMD change de stratégie pour les GPU : Cibler le marché de masse plutôt que les hautes performances

AMD a annoncé le lancement de ROCm 6.3, la dernière version de sa plateforme logicielle open source conçue pour optimiser les charges de travail en intelligence artificielle (IA) et en calcul haute performance (HPC). Cette mise à jour comprend une série d’outils avancés et d’améliorations qui promettent d’augmenter la performance, l’évolutivité et l’efficacité pour les développeurs et les entreprises travaillant dans des secteurs compétitifs.

Principales nouveautés de ROCm 6.3

SGLang : Inférence plus rapide pour les modèles génératifs

ROCm 6.3 intègre SGLang, un environnement conçu spécifiquement pour optimiser l’inférence des modèles d’IA génératifs, tels que les grands modèles de langage (LLM) et les modèles visuo-linguistiques (VLM), sur les GPU AMD Instinct. Selon des tests internes, SGLang atteint jusqu’à 6 fois plus de performance en inférence de LLM, ce qui en fait un outil essentiel pour les entreprises qui déploient des assistants interactifs et des flux de travail dans le cloud.

FlashAttention-2 : Performance supérieure dans les modèles de transformateurs

FlashAttention-2, désormais optimisé pour ROCm 6.3, améliore significativement la mémoire et le calcul des modèles de transformateurs, atteignant jusqu’à trois fois plus de vitesse en inférence et en entraînement par rapport aux versions précédentes. Cela réduit le temps de mise sur le marché des solutions IA d’entreprise.

Compilateur Fortran d’AMD : Valorisation de l’héritage HPC

ROCm 6.3 présente un compilateur Fortran conçu pour simplifier l’accélération des applications HPC existantes sur les GPU. Cet outil permet un transfert direct sur le GPU, garantit la compatibilité avec le code existant et élimine le besoin de changements significatifs, bénéficiant à des secteurs tels que la pharmacie, l’aéronautique et la modélisation climatique.

FFT multinœud dans rocFFT : Révolution dans l’efficacité du HPC

La nouvelle fonctionnalité FFT multinœud dans rocFFT permet des calculs distribués haute performance sur de grands ensembles de données. C’est particulièrement utile dans des secteurs comme le pétrole, le gaz et la modélisation climatique, puisque cela simplifie l’évolutivité et optimise le traitement des données.

Bibliothèques améliorées pour la vision par ordinateur

ROCm 6.3 inclut des améliorations dans des bibliothèques telles que AV1 et rocJPEG, ce qui facilite aux développeurs la gestion des charges de travail d’analyse vidéo et l’augmentation des jeux de données. Ces capacités stimulent des solutions avancées dans des secteurs comme les médias, le divertissement et les systèmes autonomes.

Impact sur les développeurs et entreprises

Avec cette mise à jour, AMD renforce son engagement envers la communauté open source et les développeurs en fournissant des outils conçus pour simplifier la mise en œuvre des applications et maximiser les performances. De plus, ROCm 6.3 renforce sa position en tant que plateforme de pointe dans des domaines tels que l’IA générative, la visualisation avancée et le calcul distribué.

Disponibilité et ressources

Les développeurs intéressés peuvent accéder à ROCm 6.3 et explorer sa documentation via la plateforme officielle AMD ROCm. Il est également recommandé de consulter les guides détaillés et les bibliothèques mises à jour pour intégrer ces outils dans les flux de travail existants.

AMD continue de mener l’innovation technologique en IA et HPC, fournissant aux entreprises les outils nécessaires pour relever les défis actuels et futurs. Avec ROCm 6.3, la société établit une nouvelle norme en matière de performance et d’évolutivité des solutions de calcul.

via : AMD

le dernier