Red Hat, leader mondial des solutions open source, a annoncé l’acquisition de Chatterbox Labs, une entreprise de référence dans le domaine de la sécurité pour les modèles d’intelligence artificielle et le développement de systèmes de protection pour l’IA générative. Grâce à cette opération, Red Hat intègre à son portefeuille de Red Hat AI des fonctionnalités clés de « sécurité appliquée à l’IA », renforçant ainsi son objectif de fournir une plateforme d’entreprise ouverte, complète et adaptée aux environnements de cloud hybride.
L’acquisition intervient dans un contexte d’évolution rapide de Red Hat AI, suite au lancement de Red Hat AI Inference Server et à l’arrivée de Red Hat AI 3. Des organisations issues de divers secteurs et régions adoptent déjà ces solutions pour soutenir des projets d’IA générative, prédictive et basée sur des agents. En passant du stade expérimental à la production, les entreprises doivent relever le défi de déployer des modèles qui, tout en étant avancés, soient également fiables, vérifiables et sécurisés. Dans ce contexte, la sécurité et les mécanismes de protection deviennent des éléments essentiels des pratiques MLOps actuelles. Cet engagement en faveur de la confiance et de la protection reflète la volonté de Red Hat et IBM de promouvoir une adoption responsable de l’IA en environnement cloud hybride. L’intégration de la technologie de Chatterbox Labs permettra d’offrir une plateforme unifiée avec sécurité intégrée dès la conception, renforçant la capacité de Red Hat à exécuter en production des charges d’IA avec tout type de modèle, accélérateur ou environnement.
Gérer les impacts imprévus de l’IA
Fondée en 2011, Chatterbox Labs apporte une expertise cruciale en matière de sécurité et de transparence de l’IA. Son expérience en évaluation des risques liés à l’IA a été saluée par des groupes d’experts indépendants mondiaux et des responsables politiques, cette acquisition permettant à Red Hat d’accéder à des technologies clés en apprentissage automatique.
Chatterbox Labs propose des capacités automatisées et personnalisées de tests de sécurité et de protection de l’IA, fournissant des métriques de risque objectives indispensables aux dirigeants pour valider le déploiement de l’IA en environnement de production. Sa technologie adopte une approche robuste et agnostique des modèles : elle permet de vérifier la qualité des données et des modèles via notamment :
- AIMI pour IA générative : fournit des métriques quantitatives indépendantes de risque pour les grands modèles de langage (LLM).
- AIMI pour IA prédictive : valide tout type d’architecture IA selon des critères clés tels que la robustesse, l’équité et l’explicabilité.
- Mécanismes de protection : détecte et corrige les prompts non sécurisés, toxiques ou biaisés avant leur mise en production.
Garantir la prochaine génération de charges de travail IA
Cette acquisition s’inscrit dans la vision de Red Hat de soutenir divers modèles et environnements de déploiement dans le cloud hybride. Elle complète également les capacités innovantes introduites dans Red Hat AI 3, notamment pour l’IA agentique et le protocole de contexte du modèle (MCP). Alors que de plus en plus d’organisations adoptent l’IA agentique, la fiabilité et la sécurité des modèles deviennent encore plus critiques, compte tenu du rôle autonome et complexe des agents IA et de leur impact potentiel sur les systèmes critiques de l’entreprise.
Chatterbox Labs a mené des recherches approfondies sur la sécurité holistique des agents, incluant la surveillance des réponses des agents et la détection de déclencheurs d’actions via le serveur MCP. Ce travail s’aligne avec la feuille de route de Red Hat pour le support de Llama Stack et MCP, positionnant Red Hat pour garantir la prochaine génération de charges de travail intelligentes et automatisées, sur une base fiable et prête pour l’entreprise. En combinant ses capacités MLOps avec les mécanismes de protection de Chatterbox Labs, Red Hat permettra aux organisations de déployer leurs investissements en IA avec davantage de confiance.
