Darktrace a annoncé la disponibilité générale de Darktrace / SECURE AI, une plateforme conçue pour aider les entreprises à identifier comment leurs employés et agents utilisent l’intelligence artificielle, détecter les services non autorisés et appliquer des politiques de sécurité relatives aux prompts, données et systèmes d’IA. La société affirme que plus de 80 % de ses clients utilisent déjà des services d’IA générative et qu’en août 2026, une organisation moyenne a interagi avec cinq fournisseurs d’IA différents.

Les points clés de Darktrace / SECURE AI en 30 secondes

• SECURE AI permet de découvrir et de contrôler l’utilisation de services d’intelligence artificielle en entreprise.
• Darktrace intègre l’analyse des prompts, la gestion des politiques et la supervision des agents d’IA.
• La plateforme s’intègre avec AWS, Anthropic, Microsoft et OpenAI, parmi d’autres fournisseurs.
• Darktrace affirme que plus de 80 % de ses clients utilisent l’IA générative.
• La solution est disponible en tant que produit indépendant, dans sa plateforme de sécurité ou via AWS et Microsoft Marketplace.

Ce lancement intervient dans un contexte où l’adoption de l’intelligence artificielle en entreprise progresse de manière dispersée. Les employés peuvent utiliser différents assistants et plateformes, tandis que les équipes de sécurité doivent savoir quels services sont utilisés, quelles informations y sont introduites, et quels agents ont accès aux ressources de l’entreprise.

Darktrace désigne sous le terme Shadow AI l’utilisation d’outils d’intelligence artificielle qui n’ont pas été autorisés ou supervisés officiellement par l’organisation. SECURE AI vise à fournir une visibilité sur cette activité en la reliant aux politiques internes de chaque entreprise.

La société indique qu’en août 2026, 80 % de ses clients surveillaient au moins un service d’IA générative. Ce chiffre provient de la télémetrie agrégée d’environ 8 200 déploiements observés par Darktrace, représentant donc la clientèle surveillée, mais ne constitue pas une mesure du marché global de l’entreprise.

Contrôle des prompts, agents et services d’IA

Darktrace / SECURE AI combine plusieurs fonctions destinées à superviser l’utilisation de l’intelligence artificielle au sein d’une organisation.

L’une d’elles consiste en la gestion du Shadow AI. Le système repère les activités liées à des services d’IA non autorisés et peut utiliser la télémetrie de Darktrace et des intégrations SASE, telles que Microsoft Entra Global Secure Access, pour aider à bloquer certains usages ou mettre en quarantaine des dispositifs concernés.

La plateforme intègre aussi une analyse des prompts. Cette fonctionnalité offre une visibilité sur les instructions, sessions et réponses dans différentes plateformes compatibles, notamment Amazon Bedrock, ChatGPT Enterprise, Claude, Microsoft Copilot et Copilot Studio. Darktrace indique qu’un support pour Salesforce sera ajouté prochainement.

L’analyse vise à détecter des comportements tels que des tentatives de jailbreak, l’exposition d’informations sensibles ou des attaques d’injection de prompt (prompt injection) indirecte. Les sessions sont classifiées selon leur niveau de risque, aidant ainsi les équipes de sécurité à prioriser leurs investigations.

La solution comprend également une gestion des politiques permettant de charger des documents décrivant les règles spécifiques à chaque organisation. Les administrateurs peuvent définir des contrôles et vérifier leur conformité aux cadres réglementaires et aux exigences de conformité.

Ainsi, cette approche permet de transposer les politiques internes dans l’usage quotidien des systèmes d’IA. Au lieu de simplement identifier les outils employés, le but est aussi de s’assurer que l’activité des utilisateurs et des agents respecte ces règles.

Les agents d’IA apportent une couche supplémentaire de supervision

La croissance des agents d’IA introduit une difficulté supplémentaire. Ces systèmes possèdent parfois leur identité propre et peuvent accéder à des applications, données ou infrastructures pour exécuter leur tâche.

SECURE AI identifie les agents et utilisateurs liés à l’activité d’IA dans les environnements compatibles, en fournissant des informations sur leurs permissions, fonctions, accès et relations. L’objectif est d’évaluer ce que chaque agent accomplit et si ses actions concordent avec sa mission initiale.

Darktrace offre aussi des capacités spécifiques pour la supervision de leur développement. La plateforme peut analyser des environnements de développement, qu’ils soient bas ou haut niveau, incluant Amazon Bedrock et Microsoft Copilot Studio, afin d’identifier les identités des agents, les permissions excessives, les configurations inadaptées ou les comportements anormaux lors de leur création.

Ces informations relient deux phases distinctes du cycle de vie d’un agent : sa conception et son comportement en déploiement. Pour les équipes de sécurité, cela permet de vérifier si une configuration initiale pourrait engendrer des comportements non anticipés.

La société fonde cette approche sur sa technologie Adaptive AI qui, selon Darktrace, apprend à reconnaître les schémas de fonctionnement normaux dans chaque organisation. SECURE AI étend cette méthode pour inclure les utilisateurs, prompts, agents et systèmes d’IA.

Darktrace affirme que ce modèle permet de détecter des comportements ne correspondant pas forcément à des menaces connues. Cela s’inscrit dans sa proposition technologique, tout en précisant qu’il ne garantit pas la détection automatique de tous les incidents.

Intégrations avec AWS, Anthropic, Microsoft et OpenAI

Le lancement inclut des intégrations avec plusieurs grands fournisseurs d’infrastructures et de modèles d’IA.

Avec Amazon Web Services (AWS), Darktrace étend la supervision sur le développement et le fonctionnement des agents créés via Amazon Bedrock, en relation avec leur comportement une fois déployés.

Chez Anthropic, SECURE AI surveille les prompts et réponses de Claude. La plateforme permet d’analyser ces activités dans le contexte des politiques et des usages prévus par chaque organisation.

L’intégration avec Microsoft étend la visibilité sur les utilisateurs et agents de Microsoft Copilot, y compris le développement d’agents avec Copilot Studio.

Avec OpenAI, Darktrace offre une supervision de l’utilisation de ChatGPT Enterprise et Codex. En outre, les deux entreprises collaborent via Daybreak Defense Network pour combiner les modèles Daybreak d’OpenAI avec l’analyse comportementale de Darktrace.

Selon Darktrace, cette coopération vise à identifier les incidents liés à l’IA d’entreprise tout en fournissant un contexte additionnel concernant les personnes, systèmes et processus concernés. L’objectif est d’aider les équipes de défense à prioriser leurs actions.

Les premiers retours clients montrent des cas où SECURE AI a permis d’identifier l’utilisation non autorisée d’outils d’IA, de détecter plusieurs plateformes par des contractants, ou encore de repérer des agents d’IA développés dans des environnements sans contrôle formel. Ces exemples illustrent les types de situations que la plateforme cherche à détecter, sans constituer une mesure de fréquence indépendante.

SECURE AI est disponible depuis le 22 septembre 2026 pour tous les clients de Darktrace, en tant que produit autonome, intégré à Darktrace Behavioral Defense Platform ou via AWS Marketplace et Microsoft Marketplace.

Avec quelque près de 10 000 clients dans le monde, Darktrace positionne SECURE AI comme une nouvelle étape pour accompagner la croissance de l’IA dans le contexte professionnel. Son objectif est de passer d’une surveillance limitée aux outils à une surveillance du comportement des utilisateurs, agents, prompts et systèmes associés.

Questions fréquentes

Qu’est-ce que Darktrace / SECURE AI ?

Une solution de Darktrace pour découvrir et superviser l’utilisation de l’intelligence artificielle en entreprise, y compris les services autorisés et non autorisés, prompts, utilisateurs et agents.

Qu’est-ce que le Shadow AI ?

Le Shadow AI désigne l’utilisation d’outils et de services d’IA en interne, sans l’autorisation ou la supervision officielle des équipes responsables.

Avec quelles plateformes d’IA SECURE AI s’intègre-t-elle ?

Darktrace annonce des intégrations avec Amazon Web Services, Anthropic, Microsoft et OpenAI, ainsi que le support pour diverses plateformes professionnelles telles qu’Amazon Bedrock, Claude, ChatGPT Enterprise, Microsoft Copilot et Copilot Studio.

Darktrace / SECURE AI est-elle disponible ?

Oui. La disponibilité générale a été annoncée le 22 septembre 2026 pour tous les clients, en tant que produit autonome, intégrée à la plateforme de sécurité de Darktrace ou via AWS et Microsoft Marketplace.