L’intelligence artificielle s’est infiltrée rapidement dans le quotidien des entreprises : employés utilisant des outils génératifs pour rédiger, résumer ou programmer ; équipes d’ingénierie développant des agents capables d’exécuter des actions ; organisations connectant modèles, données internes et services cloud. Résultat : une hausse significative de productivité mais aussi un changement inconfortable pour les responsables de la sécurité : une nouvelle surface d’attaque apparaît précisément là où l’IA « raisonne » et prend des décisions.

Dans ce contexte, CrowdStrike a annoncé la disponibilité générale de Falcon AI Detection and Response (AIDR), une extension de leur plateforme Falcon conçue pour protéger la couche de prompts et l’interaction avec les agents, tant dans les scénarios d’utilisation par les employés que dans les flux de développement et de déploiement d’applications IA.

Le principe est simple : si auparavant le périmètre de sécurité englobait endpoints, identités, emails ou cloud, il faut désormais aussi surveiller le point où une personne (ou un processus) pose une question, où un modèle répond et où un agent agit. Autrement dit, la zone où un attaquant pourrait tenter d’injecter des instructions cachées, manipuler des résultats ou provoquer des fuites de données.

Le « prompt » comme vecteur : quand le langage devient une arme

CrowdStrike met en avant que, à l’ère de l’IA, le langage peut devenir un vecteur d’attaque, utilisant des techniques telles que prompt injection, jailbreaks ou manipulation des agents pour forcer des comportements imprévus. Selon leurs chercheurs, plus de 180 techniques d’injection de prompts sont en cours d’analyse, dans un effort pour systématiser un problème encore en pleine évolution, et qui demeure particulièrement dangereux : beaucoup d’organisations sous-estiment ce risque jusqu’à ce qu’il se concrétise.

On observe aussi un phénomène fréquent dans beaucoup d’entreprises : « l’adoption clandestine ». D’après CrowdStrike, 45 % des employés déclarent utiliser des outils IA sans en informer leur responsable, créant une zone d’ombre où des données sensibles peuvent être exposées ou des services utilisés sans contrôles adéquats.

Ce que promet Falcon AIDR : visibilité, contrôle et protection en temps réel

Falcon AIDR repose sur un concept : gérer et sécuriser l’interaction avec l’IA, pas seulement la protection du modèle ou de l’infrastructure le supportant. Selon CrowdStrike, l’objectif est d’offrir une protection unifiée, couvrant de l’usage quotidien par les employés à l’exécution en temps réel d’applications et agents IA, via une plateforme unique.

Parmi les fonctionnalités mises en avant :

• Visibilité de l’utilisation de l’IA (« voir l’IA partout »), avec enregistrements d’exécution et d’activité pour le respect des règles et investigations.
• Protection contre les attaques de type injection de prompts et autres techniques de manipulation.
• Contrôle en temps réel des interactions à risque, incluant la possibilité de contenir des actions d’agents.
• Protection des données sensibles, permettant de détecter et d’arrêter l’exposition de crédentiels ou d’informations réglementées avant qu’elles n’atteignent des modèles, agents ou services externes.
• Accélération du développement sécurisé, avec des garanties intégrées pour les équipes techniques.

Au-delà de ses fonctionnalités, CrowdStrike veut faire passer un message : la « couche d’interaction » devient le nouveau terrain de jeu offensif. Les prompts seraient le « nouveau malware », dans la mesure où ils peuvent véhiculer une intention malveillante et déclencher des comportements automatisés. Ce changement de paradigme oblige à repenser les contrôles classiques, car ici, un attaquant n’accède pas forcément via une vulnérabilité traditionnelle : il entre par une conversation.

Pourquoi maintenant : la montée en puissance de l’IA accroît les risques dans le cloud

Bien que Falcon AIDR cible principalement l’interaction avec modèles et agents, cette démarche s’inscrit dans une tendance plus large : l’expansion du périmètre de sécurité liée à la croissance de l’IA dans le cloud. Selon un rapport annuel de Palo Alto Networks sur la sécurité cloud, 99 % des entreprises interrogées ont subi au moins une attaque ciblant leurs systèmes IA au cours de l’année dernière, et les cybercriminels pivotent vers des couches fondamentales telles que APIs, gestion des identités et mouvement latéral.

Concrètement, la majorité des entreprises ne se contentent plus d’« applications cloud » : elles exploitent des modèles reliés à des données, avec des services accessibles via API et automatisés. Dans ce contexte, une interaction malveillante avec un agent peut avoir des conséquences graves : fuite d’informations, actions non autorisées ou ouverture de brèches pour des attaques latérales.

Le vrai défi : assurer la sécurité sans freiner le développement

Le principal enjeu n’est pas seulement de protéger l’IA, mais de le faire sans freiner son adoption. La majorité des organisations évoluent encore entre pilotes, outils approuvés et usages improvisés. La mise en place d’une couche de contrôle sur les prompts, réponses et actions peut faire la différence : pas en étant une « police », mais en en permettant l’innovation dans un cadre sécurisé, avec des limites claires et une traçabilité.

Falcon AIDR arrive à un moment où la conversation autour de l’IA cesse d’être expérimentale pour devenir opérationnelle. Et lorsque l’IA commence à prendre des décisions et à exécuter des actions, la sécurité ne peut plus se limiter à l’infrastructure : elle doit aussi surveiller l’interaction.

Questions fréquentes

Qu’est-ce qu’une injection de prompt et pourquoi ce risque inquiète-t-il les entreprises ?
Il s’agit d’une technique visant à insérer des instructions cachées ou malveillantes dans un prompt (ou contenu consommé par le modèle) pour faire en sorte que l’IA réalise une action non prévue : révéler des données, contourner des politiques ou exécuter des actions dangereuses.

Comment protéger les agents IA qui interagissent avec les systèmes de l’entreprise ?
En complément des contrôles classiques (IAM, segmentation, journaux), il est nécessaire d’implémenter des couches spécifiques pour auditer et bloquer les prompts dangereux, contenir les actions automatiques et appliquer des politiques en temps réel sur ce qu’un agent peut faire ou non.

Que signifie « IA en l’ombre » dans une organisation et comment la réduire ?
Cela désigne l’utilisation d’outils IA en dehors des canaux formels. La réduire implique de définir des politiques claires, d’utiliser des outils officiels performants (pour limiter les raccourcis) et de garantir une visibilité sur cet usage, avec des formations orientées risques.

Pourquoi la sécurité des API et des identités est-elle essentielle dans les projets d’IA cloud ?
Parce que de nombreux systèmes d’IA s’appuient sur des API pour fonctionner et sur des identités (humaines ou non) pour accéder aux données et services. En cas de défaillance de ces contrôles, un attaquant peut escalader ses privilèges, se déplacer latéralement ou extraire des informations.

via : crowdstrike