Red Hat, leader mondial en solutions open source, a annoncé l’acquisition de Neural Magic, une entreprise pionnière en logiciels et algorithmes conçus pour optimiser les modèles d’IA générative (GenAI) dans les environnements d’inférence. L’expertise de Neural Magic en ingénierie de performance d’inférence et son engagement envers l’open source s’alignent sur la vision de Red Hat de fournir des solutions d’IA à haute performance adaptées aux besoins spécifiques de ses clients, dans tout environnement de cloud hybride.

L’IA générative reste l’une des technologies les plus prometteuses, bien qu’elle nécessite une infrastructure robuste et à haute capacité pour gérer les modèles de langage de grande taille (LLMs) qui la soutiennent. Ces modèles exigent une puissance de calcul et des ressources énergétiques importantes, ce qui limite souvent leur accessibilité pour de nombreuses organisations. Avec cette acquisition, Red Hat cherche à faciliter l’accès à l’IA générative grâce à des plateformes ouvertes et innovantes, en intégrant la technologie de Neural Magic à son propre portefeuille de solutions d’IA dans le cloud hybride.

Démocratisation de l’IA à travers la technologie vLLM et l’open source

Red Hat et Neural Magic vont propulser le projet vLLM, une initiative open source développée à l’Université de Californie à Berkeley, qui permet l’optimisation de modèles génératifs sur un large éventail de matériels, depuis les GPU de AMD et NVIDIA jusqu’aux processeurs x86. La collaboration sur vLLM permettra à Red Hat de fournir aux entreprises un chemin ouvert pour créer des stratégies d’IA qui peuvent être déployées dans leurs propres centres de données, dans le cloud ou en périphérie.

Fondée en 2018 comme une scission du MIT, Neural Magic est spécialisée dans le logiciel d’inférence qui améliore la performance des modèles d’apprentissage en profondeur. En rejoignant Red Hat, l’entreprise contribuera à étendre les capacités de Red Hat AI, permettant aux entreprises de déployer des modèles de langue avec plus d’efficacité et de contrôle, et facilitant l’utilisation de l’IA dans des environnements d’entreprise avec des normes de sécurité élevées.

Red Hat AI et Neural Magic : une plateforme complète pour l’IA dans le cloud hybride

L’intégration de la technologie de Neural Magic renforcera l’offre de Red Hat AI, une plateforme qui comprend des modèles sous licence open source jusqu’à 405.000 milliards de paramètres, adaptables à tout environnement de cloud hybride. Cette plateforme permet la personnalisation de modèles génératifs, optimisant leur fonctionnement et réduisant les coûts opérationnels.

Parmi les principales technologies qui bénéficieront de cette intégration, on trouve :

• Red Hat Enterprise Linux AI (RHEL AI) : une plateforme pour le développement et le déploiement de modèles d’IA sur des serveurs Linux.
• Red Hat OpenShift AI : un environnement de KubernetesKubernetes (communément appelé « K8s ») … pour le développement, l’entraînement et le suivi de modèles d’IA dans des environnements distribués.
• InstructLab : un projet open source en collaboration avec IBM qui permet aux utilisateurs de participer au perfectionnement des modèles Granite LLM.

Un futur d’IA sûre, flexible et évolutive

Avec cette acquisition, Red Hat renforce son engagement envers une IA générative ouverte, sûre et accessible, soutenue par une communauté de collaborateurs. La technologie de Neural Magic améliorera non seulement l’efficacité et la performance des modèles génératifs, mais permettra également aux entreprises d’adapter l’IA à leurs besoins, tout en gardant le contrôle de leurs données et de leurs politiques de sécurité.

Cette opération, qui est soumise à l’approbation réglementaire, marque une étape décisive dans la stratégie de Red Hat pour se consolider en tant que leader en solutions d’IA open source dans le cloud hybride.