Thales a renforcé sa collaboration avec Google Cloud pour améliorer la sécurité des flux de travail basés sur l’intelligence artificielle (IA) agentique. L’intégration de Thales AI Security Fabric avec Google Cloud Gemini Enterprise vise à offrir une meilleure visibilité et un contrôle accru sur les communications entre utilisateurs, agents IA, modèles, données d’entreprise et outils, avec des politiques de sécurité appliquées en temps réel.

Les clés de la sécurité de l’IA agentique en 20 secondes

• Thales intègre sa plateforme AI Security Fabric à Google Cloud Gemini Enterprise.
• Cette solution vise à contrôler les données auxquelles les agents peuvent accéder, les informations qu’ils partagent et les actions qu’ils peuvent exécuter.
• Les risques identifiés incluent l’injection d’instructions malveillantes, les fuites d’informations et les actions non autorisées.
• Cette collaboration facilite le déploiement d’agents autonomes en entreprise avec des contrôles sécurité, une visibilité et une gouvernance renforcés.

Cette initiative répond à une évolution dans la manière dont les entreprises utilisent l’IA. Alors que les assistants traditionnels se limitent souvent à répondre à des requêtes ou à générer du contenu, les agents peuvent prendre des décisions et agir sur des systèmes d’entreprise. Cette capacité augmente les possibilités d’automatisation, mais nécessite également de revoir les permissions, les données accessibles et les limites d’action de chaque système.

Thales insiste sur la sécurité lors de ces interactions. Au lieu de se concentrer uniquement sur la protection d’une application ou d’un modèle, AI Security Fabric vise à superviser les relations entre les différents composants impliqués dans un flux de travail automatisé.

Quels risques Thales AI Security Fabric cherche-t-il à maîtriser ?

L’intégration est conçue pour aider les entreprises à gérer des menaces spécifiques aux systèmes agentiques. Thales identifie plusieurs risques : l’injection d’instructions malveillantes (prompt injection), l’exposition d’informations sensibles, les réponses potentiellement dangereuses et les actions effectuées par un agent sans autorisation. La complexité des communications entre plusieurs agents est également prise en compte.

Ces problèmes peuvent survenir lorsqu’un agent dispose d’un accès à des données d’entreprise ou à des outils capables de modifier des informations ou d’exécuter des opérations. Si ses permissions ne sont pas correctement délimitées, il pourrait utiliser des données hors du cadre prévu ou réaliser des actions contraires aux politiques de l’organisation.

Par exemple, une compagnie d’assurance utilisant des agents pour traiter des sinistres pourrait voir un agent consulter des informations personnelles provenant de sources non autorisées afin d’influencer le montant d’une indemnisation. Ce comportement présenterait des risques pour la confidentialité et la conformité réglementaire.

AI Security Fabric vise à établir des contrôles autour des agents pour limiter leur accès aux données autorisées et bloquer en temps réel les actions inappropriées. Son objectif est de permettre aux systèmes de réaliser des tâches légitimes sans dépasser les limites fixées par l’entreprise.

L’outil met également en avant la détection de menaces spécifiques à l’IA et la supervision du comportement des agents. Les détails techniques précis sur les modèles de détection, les métriques ou les résultats de tests indépendants ne sont pas encore communiqués. Le lancement décrit donc les capacités prévues pour l’intégration mais ne fournit pas de chiffres pour évaluer précisément son efficacité face à des attaques concrètes.

Visibilité et gouvernance pour déployer des agents dans l’entreprise

La collaboration avec Google Cloud vise à couvrir différentes phases du cycle de vie des systèmes d’IA. Selon Thales, AI Security Fabric permet de détecter et d’évaluer les risques liés à l’IA, de protéger les informations sensibles, d’aider à prévenir les actions non autorisées, et de vérifier que l’activité des systèmes respecte les politiques d’entreprise et les intentions des utilisateurs.

La plateforme intègre également des fonctions de gouvernance centralisée et de conformité. Ces capacités offrent aux responsables de la sécurité et aux unités métier une vision plus globale de l’utilisation des agents et des limites à respecter.

La visibilité devient particulièrement importante lorsque plusieurs agents interagissent ou utilisent différents outils pour accomplir une tâche. Dans ces scénarios, contrôler uniquement la requête initiale ne suffit pas toujours pour comprendre toutes les opérations en cours. La proposition de Thales consiste à appliquer des contrôles aux interactions entre utilisateurs, agents, modèles et outils.

Cependant, l’annonce ne précise pas quels registres seront accessibles, comment les politiques seront intégrées à chaque application d’entreprise ou quelles options de configuration seront disponibles pour les administrateurs. Les mécanismes techniques pour bloquer chaque type d’action restent également à définir. Ces détails seront essentiels pour évaluer comment la solution s’intégrera dans des environnements aux exigences spécifiques en matière de sécurité et de conformité.

Pour Google Cloud, ce partenariat s’inscrit dans l’objectif de faciliter la transition des projets pilotes à une mise en œuvre opérationnelle d’agents dans les processus d’entreprise. Vineet Bhan, directeur des alliances en sécurité et identité chez Google Cloud, souligne que les organisations doivent intégrer la sécurité et la gouvernance dans leur mode de fonctionnement, notamment lorsqu’elles traitent des informations ou des applications critiques.

Eva Rudin, vice-présidente senior des produits de cybersécurité chez Thales, insiste également sur le fait que le déploiement d’agents autonomes nécessite une approche de sécurité adaptée à leurs capacités.

Cette extension de la collaboration place la protection des agents au cœur de l’adoption de l’IA en entreprise. Toutefois, l’annonce ne mentionne pas les tarifs, la date de disponibilité, les exigences en matière de licences, ni les différences entre les différentes modalités de déploiement. Aucun secteur spécifique n’est également indiqué comme étant déjà opérationnel avec cette intégration.

Questions fréquentes

Qu’est-ce que Thales AI Security Fabric ?

C’est une plateforme de sécurité dédiée aux systèmes d’intelligence artificielle, visant à fournir visibilité et contrôle sur l’accès aux données, les interactions entre agents et les actions qu’ils peuvent effectuer.

Avec quel service de Google Cloud s’intègre-t-elle ?

L’intégration concerne Google Cloud Gemini Enterprise, afin d’appliquer des contrôles de sécurité et de gouvernance aux flux de travail utilisant l’IA.

Quelles menaces cette solution aide-t-elle à réduire ?

Elle vise à maîtriser des risques tels que l’injection d’instructions malveillantes, la fuite d’informations sensibles, les réponses potentiellement nuisibles et les actions non autorisées.

Comment contribue-t-elle à protéger les agents autonomes ?

Elle cherche à établir des politiques sur leurs interactions, à limiter l’accès aux informations et outils, à détecter les menaces, et à surveiller leur comportement.