L’intelligence artificielle est en train de créer sa propre catégorie dans le domaine de la cybersécurité. Selon Gartner, on prévoit que le marché mondial dédié à la protection des systèmes et applications d’IA atteindra 4,783 milliards de dollars en 2027, contre 2,835 milliards de dollars anticipés pour 2026. La croissance sera de 68,7 % en seulement un an, poursuivant son essor pour approcher les 7,7 milliards en 2028.
Les clés de la sécurité de l’IA en 20 secondes
- Gartner prévoit que le marché passera de 2,835 milliards de dollars en 2026 à 4,783 milliards en 2027.
- La sécurité des applications d’IA (AI Application Security) sera la catégorie la plus importante, avec 851 millions de dollars.
- Le contrôle d’utilisation de l’IA (AI Usage Control) croîtra de 73 %, et les passerelles d’IA (AI Gateways) de 70,9 %.
- Les agents introduisent des risques liés aux permissions, aux outils et aux injections de prompt (prompt injection).
- Gartner prévoit que plus de la moitié des attaques réussies contre des agents exploiteront le contrôle d’accès et les injections de prompt d’ici 2029.
Cette projection reflète un changement qui commence déjà à se faire sentir dans l’architecture des entreprises. L’IA ne se limite plus à une simple API qui reçoit un texte et en renvoie un autre. Les modèles sont désormais connectés à des bases de données, des dépôts de code, des messageries électroniques, des systèmes de stockage, des moteurs de recherche internes et des outils d’entreprise.
Les agents poussent cette intégration encore plus loin, car ils peuvent enchaîner des opérations et exécuter des actions en utilisant des identifiants et permissions.
Cela étend la surface d’attaque et oblige à introduire de nouveaux contrôles qui n’étaient pas envisagés lors de la conception de nombreuses solutions de sécurité traditionnelles.
Les agents d’IA changent la donne en matière de sécurité
Gartner identifie quatre grands segments dans ce nouveau marché : AI Application Security, AI Usage Control, AI Governance Platforms et AI Gateways. À ceux-ci s’ajoutent d’autres technologies liées à la protection des systèmes d’intelligence artificielle.
Tous ces segments devraient croître à un rythme supérieur à 67 % d’ici 2027.
| Segment | 2026 | 2027 | Croissance |
|---|---|---|---|
| AI Application Security | 508 M$ | 851 M$ | 67,5 % |
| AI Usage Control | 433 M$ | 749 M$ | 73,0 % |
| AI Governance Platforms | 275 M$ | 462 M$ | 68,0 % |
| AI Gateway | 251 M$ | 429 M$ | 70,9 % |
| Autres solutions | 1.368 M$ | 2.292 M$ | 67,5 % |
| Total | 2.835 M$ | 4.783 M$ | 68,7 % |
La catégorie avec le plus gros investissement spécifique sera AI Application Security, qui atteindra 851 millions de dollars. Elle englobe les technologies visant à identifier les vulnérabilités et à protéger les applications construites autour de modèles d’IA.
Cependant, c’est dans le contrôle d’utilisation de l’IA (AI Usage Control) que la croissance sera la plus rapide, avec une augmentation prévue de 73 %.
Cela soulève l’un des enjeux les plus immédiats pour les départements systèmes et sécurité : contrôler comment l’IA est utilisée par les employés et dans les applications.
Lors de la première expansion de ChatGPT et autres assistants génératifs, une grande partie des préoccupations tournaient autour du phénomène du Shadow AI : des employés utilisant des outils non autorisés et transmettant à des services externes du code, des documents ou des informations d’entreprise.
Avec les agents, le problème prend une ampleur encore plus grande.
Un agent peut disposer d’un accès à Slack, Microsoft 365, Google Workspace, GitHub, CRM, ERP, stockage cloud ou bases de données. Selon sa configuration, il peut se limiter à consulter l’information ou aller jusqu’à la modifier.
Il ne suffit plus de protéger uniquement le modèle. Il faut également sécuriser les actions qu’il peut effectuer au nom de l’utilisateur.
Les principes traditionnels d’Identity and Access Management (IAM), du minimum de privilèges et de la séparation des permissions restent valables, mais une couche supplémentaire, prenant des décisions en langage naturel, voit le jour.
Injection de prompt : quand les données contiennent des instructions
Gartner souligne particulièrement le prompt injection comme l’un des risques liés aux agents.
Il prévoit que plus de la moitié des cyberattaques réussies contre des agents d’IA exploiteront des failles liées aux contrôles d’accès et au prompt injection d’ici 2029.
C’est une prévision, mais cela illustre pourquoi apparaissent des outils spécialisés sur ce sujet.
Une prompt injection vise à introduire des instructions qui modifient le comportement attendu d’un modèle. Dans des applications simples, cela peut provenir directement de l’utilisateur, mais les agents rendent la situation plus complexe.
Un agent peut détecter des instructions malveillantes dans une page web, un document, un email ou tout autre contenu qu’il doit analyser.
Il existe aussi le phénomène d’indirect prompt injection.
Ce problème consiste à différencier correctement les données que le modèle doit analyser de celles qui constituent de véritables instructions.
La difficulté est accrue lorsque l’agent dispose d’outils accessibles.
Si l’agent génère uniquement du texte, les conséquences restent relativement limitées. Mais un agent capable d’envoyer des messages, d’exécuter des commandes, de modifier des fichiers ou de consulter des données sensibles peut transformer une manipulation du modèle en un vrai enjeu de sécurité pour l’entreprise.
Le contrôle des permissions doit alors être intégré à la sécurité du Large Language Model (LLM).
Les AI gateways comme nouvelle couche d’infrastructure
L’un des segments prometteurs pour les équipes d’infrastructure sera celui des AI gateways.
Gartner prévoit que le budget passe de 251 millions de dollars en 2026 à 429 millions en 2027, soit une croissance de 70,9 %.
L’émergence de cette couche est logique.
Les premières applications génératives s’appuyaient sur une API unique. Désormais, une organisation peut faire appel simultanément à des modèles de OpenAI, Anthropic, Google, Mistral, Meta, DeepSeek ou Qwen, ainsi qu’à des modèles déployés en interne.
Une seule application peut utiliser différents LLM selon le coût, la latence ou d’autres critères.
Le gateway intervient entre les applications et cette gamme de modèles.
Il peut ainsi centraliser les politiques, l’authentification, la traçabilité et les restrictions. Il contrôle aussi quels modèles sont autorisés, quels fournisseurs peuvent recevoir des données, et quelles applications disposent des permis pour utiliser chaque service.
Ce principe évoque les API gateways, qui sont devenus courants avec la croissance des microservices, mais avec de nouveaux éléments liés à l’IA à inspecter.
Ce n’est plus seulement une question de paramètres et de réponses structurées.
Avec l’IA circulent des prompts, des contextes potentiellement énormes, des documents, des images, des appels à des outils, et des réponses générées dynamiquement.
Un AI gateway peut ainsi servir de point de contrôle pour appliquer des politiques avant de soumettre une requête au modèle et pour vérifier la réponse par la suite.
De plus, la montée en puissance du routing de modèles permet à cette couche d’assumer d’autres fonctions. Une entreprise peut employer différents modèles selon le coût, la performance ou la disponibilité, sans que chaque application ait à gérer directement toutes les identifiants et fournisseurs.
La sécurité, le routage et la traçabilité se trouvent ainsi concentrés dans un même lieu au sein de l’architecture.
La gouvernance d’IA doit d’abord établir quels systèmes existent
Un autre marché que Gartner prévoit en forte croissance concerne les AI Governance Platforms, qui devraient passer de 275 à 462 millions de dollars en 2027.
Avant d’appliquer une politique de sécurité, il faut répondre à une question apparemment simple mais essentielle :
Combien de systèmes d’IA fonctionnent dans l’entreprise ?
Il peut s’agir d’applications internes, d’assistants intégrés dans des produits SaaS, d’APIs sous contrat avec des départements, de modèles open source en service sur des serveurs privés, ou encore d’agents déployés par des équipes techniques.
L’inventaire n’est que le début.
Il faut ensuite identifier la version du modèle utilisée par chaque application, les informations traitées, les lieux d’exécution, qui y a accès, le fournisseur intervenant, ainsi que les outils pouvant être mobilisés.
Les agents créent aussi des relations entre ces systèmes.
Un agent peut utiliser un LLM d’un fournisseur, consulter une base de données hébergée ailleurs et effectuer une action via une API d’entreprise. La sécurité doit couvrir toute cette chaîne.
C’est pourquoi Gartner prévoit que les plateformes de gouvernance existantes et les grands fournisseurs d’entreprise étendront leurs produits pour inclure des contrôles spécifiques à l’IA.
La chaîne d’approvisionnement entre aussi en jeu
Gartner évoque un autre risque qui ne dépend pas directement des prompts : la chaîne d’approvisionnement logiciel.
De nombreux projets d’IA s’appuient sur une quantité importante de composants externes.
Modèles open source, bibliothèques Python, frameworks d’inférence, outils pour agents, serveurs MCP, connecteurs, conteneurs, dépôts de modèles, packages téléchargés depuis des registres publics : tout cela peut faire partie d’une même application.
Le problème des dépendances tierces n’est pas nouveau. Des incidents tels que Log4Shell, des attaques sur des dépôts de packages ou des fuites d’identifiants ont montré, depuis des années, l’importance de contrôler la chaîne d’approvisionnement.
L’IA ne fait qu’ajouter des pièces supplémentaires.
Un modèle téléchargé depuis un dépôt externe doit être vérifié, tout comme un conteneur utilisé pour effectuer des inférences ou un outil installé par un agent pour accéder à un service.
À mesure que les entreprises déploient davantage d’IA sur leur propre infrastructure, la sécurité de l’ensemble du stack devient aussi critique que la protection du modèle.
La sécurité traditionnelle demeure incontournable
L’expansion de cette nouvelle industrie peut donner l’impression qu’il faut remplacer complètement les outils existants par une nouvelle catégorie. Mais Gartner prône plutôt une approche combinée.
Les pare-feu, les solutions Endpoint Detection and Response (EDR), la gestion des événements et des informations de sécurité (SIEM), la gestion des identités, la sécurité des API, la protection des données et les contrôles réseau restent essentiels.
Une base de données accessible par un agent doit continuer à nécessiter une authentification.
Une API doit continuer à exiger une autorisation.
Un serveur d’inférence nécessite des mises à jour et une surveillance continues.
La différence est que ces couches ne comprennent pas nécessairement ce que signifie un prompt injection ou qu’un agent tente d’utiliser un outil de manière inattendue.
C’est là que les produits spécialisés que Gartner recense trouvent leur place.
La prévision de la société de conseil prévoit également une consolidation du marché. Dans des domaines tels que la sécurité des applications d’IA et le contrôle d’utilisation de l’IA, des startups spécialisées apparaissent, tandis que pour la gouvernance et les gateways, les fabricants établis ont déjà un avantage car ils contrôlent une partie importante de l’infrastructure.
Si le marché atteint près de 7,7 milliards de dollars d’ici 2028, il est fort probable que les acquisitions suivent un mouvement accéléré.
Le secteur de la sécurité informatique a souvent suivi cette dynamique : une nouvelle surface d’attaque apparaît, des outils spécialisés voient le jour, puis de plus grandes plateformes intègrent ces fonctions via développement interne ou acquisitions.
Avec l’IA, ce processus peut aller encore plus vite.
Les entreprises passent en quelques années de tests de chatbots à déploiements d’agents ayant accès à leur infrastructure. Plus un agent peut faire, plus il devient crucial de maîtriser qui l’en contrôle, ses permissions, les données qu’il utilise, et de savoir comment il peut être trompé.
Les 4,783 milliards de dollars prévus par Gartner pour 2027 illustrent surtout que sécuriser l’IA quitte le stade expérimental pour devenir une composante incontournable du stack technologique de l’entreprise.
Questions fréquentes
Quelle sera la croissance du marché de la sécurité de l’IA en 2027 ?
Gartner prévoit une croissance de 68,7 %, passant de 2,835 milliards de dollars en 2026 à 4,783 milliards en 2027. D’ici 2028, le marché devrait approcher les 7,7 milliards.
Qu’est-ce qu’une AI gateway ?
C’est une couche intermédiaire entre les applications et les modèles d’IA, capable de centraliser l’accès, d’appliquer des politiques, d’assurer la traçabilité et de contrôler l’utilisation des fournisseurs et des modèles. Gartner prévoit que ce segment atteindra 429 millions de dollars en 2027.
Pourquoi l’injection de prompt est-elle particulièrement préoccupante pour les agents d’IA ?
Parce qu’un agent peut traiter des instructions malveillantes trouvées dans des documents, des courriels ou des pages web, tout en disposant d’outils pour exécuter des actions. Gartner anticipe que le contrôle d’accès et l’injection de prompt seront responsables de plus de la moitié des attaques réussies contre des agents en 2029.
Ces outils remplaceront-ils la sécurité informatique traditionnelle ?
Pas exactement. Gartner recommande de combiner les défenses existantes avec des technologies spécialisées capables de repérer les risques propres à l’IA et à ses agents.
Source : Open Security