Selon une étude de Google Cloud menée auprès de 1 402 responsables technologiques, 83 % des grandes organisations jugent leur infrastructure encore insuffisante pour déployer des agents d’intelligence artificielle en production. Le problème ne se résume pas à acheter plus de GPU : l’intégration avec des systèmes anciens, les coûts d’inférence, la sécurité, la gestion des données et la consommation énergétique pèsent tout autant.

Les clés de l’infrastructure pour une IA agentique en 30 secondes :

• Seuls 17 % des entreprises font totalement confiance à leur infrastructure actuelle pour exécuter des agents critiques.
• L’inférence représente désormais 47 % du budget IA, contre 28 % pour l’entraînement des modèles.
• 81 % des répondants pointent la complexité opérationnelle comme coût caché.
• Sécurité, gouvernance et MLOps préoccupent 79 % des responsables.
• 84 % prévoient d’investir massivement dans l’infrastructure et les opérations d’ici deux ans.

Contexte et enjeux

Ce rapport marque le passage d’une IA centrée sur la génération de réponses vers des systèmes capables de planifier, garder du contexte, consulter des outils et exécuter des actions. Une simple requête peut déclencher des recherches en base de données, des appels à diverses API, des vérifications d’inventaire, des échanges avec d’autres agents ou des modifications directes dans des systèmes d’entreprise.

Cette activité continue demande une infrastructure différente de celle utilisée pour tester un chatbot ou entraîner un modèle ponctuellement : mémoire, accès rapide aux données, observabilité, identités propres, permissions limitées et capacité à maintenir des processus sur la durée. L’étude, réalisée en janvier 2026 par Google Cloud et GBK Collective, a interrogé des responsables informatiques dans 12 pays, dans des entreprises de plus de 1 000 salariés la plupart du temps (500 en Asie-Pacifique et Amérique latine). Tous utilisaient déjà l’IA générative ou prévoyaient de le faire dans les 12 mois. Les résultats reflètent donc l’état d’avancement de grandes organisations déjà engagées, pas l’ensemble du tissu entrepreneurial.

Les faits : une entreprise sur six seulement se sent prête

Le rapport répartit les organisations en cinq groupes. 12 % ont besoin de changements fondamentaux, 29 % doivent actualiser leurs systèmes centraux, 27 % estiment n’avoir besoin que d’ajustements mineurs. 16 % pourraient lancer des agents pilotes sans trop d’effort, mais n’ont pas encore confiance pour les déployer sur des services critiques. Seuls 17 % se disent entièrement prêts pour des agents en production sur des processus critiques.

État de préparation de l’infrastructure	Pourcentage
Besoin de changements fondamentaux	12 %
Améliorations majeures des systèmes centraux	29 %
Intégration et ajustements mineurs	27 %
Capacité à piloter avec peu d’effort	16 %
Prête pour des agents critiques en production	17 %

La somme dépasse légèrement 100 % à cause des arrondis, mais Google Cloud retient que 83 % des organisations ont encore une marge de progression avant une préparation complète. Le vide technique ne concerne pas les accélérateurs : 43 % des responsables peinent à connecter des agents à des API anciennes ou des données héritées, 36 % manquent de bases de données vectorielles performantes, 35 % jugent leur sécurité insuffisante pour un accès multisystème.

Principales lacunes pour déployer des agents	Pourcentage
Intégration API et données héritées	43 %
Bases de données vectorielles insuffisantes	36 %
Sécurité limitée pour accès multisystème	35 %

Une même organisation peut cumuler les trois limitations, un cas fréquent quand l’agent doit interroger des applications d’époques différentes et combiner des données dispersées entre plusieurs environnements. L’enjeu consiste à fournir du contexte sans donner un accès illimité : un agent chargé d’une commande d’achat peut avoir besoin de consulter ventes, inventaire, fournisseurs et logistique, sans pour autant pouvoir modifier tous ces systèmes avec les mêmes droits.

L’inférence dépasse déjà la formation en budget

La dépense continue liée à l’usage des modèles déplace une grande partie du budget vers l’inférence, qui représente maintenant 47 % du budget IA contre 28 % pour la formation.

Répartition du budget IA	Pourcentage
Inférence	47 %
Formation	28 %
Optimisation des modèles	16 %
Expérimentation	9 %

Un agent ne fournit pas une réponse unique et close : il peut entretenir de longues conversations, utiliser des outils, vérifier des résultats et reformuler ses requêtes, chaque étape consommant calcul, mémoire, stockage et réseau. Google Cloud parle de « taxe d’inférence » pour désigner ces coûts d’échelle sur des plateformes existantes. Le terme reste marketing, mais les chiffres suivent : 62 % des répondants citent des coûts directs liés à l’infrastructure (stockage, transferts de données, accélérateurs sous-utilisés).

Le coût le plus lourd reste la complexité opérationnelle : 81 % des responsables la jugent coûteuse en ingénierie, entre intégration des modèles, bases de données, outils, contrôles d’accès et plateformes de surveillance.

Coûts cachés de l’expansion IA	Pourcentage
Complexité opérationnelle et ingénierie	81 %
Infrastructure et consommation directe	62 %
Talents et formation	57 %

96 % des répondants jugent l’efficacité économique essentielle dans le choix d’une infrastructure (32 % extrêmement importante, 49 % très importante, 15 % importante). Ce souci pousse vers les services managés, qui externalisent une partie de la gestion de l’approvisionnement et de l’extension des clusters : les organisations avancées en IA en utilisent 50 % de plus que la moyenne. Revers de la médaille, 78 % des entreprises achètent désormais leurs solutions d’IA générative directement auprès de leur partenaire cloud principal, contre 48 % en 2025, ce qui pose la question de la portabilité et des coûts de sortie.

Analyse et implications : sécurité, cloud hybride et énergie

Les agents élargissent la surface de risque parce qu’ils agissent au nom d’une personne ou d’un processus métier. 79 % des responsables citent la sécurité, la gouvernance et le MLOps comme principaux enjeux pour faire monter l’inférence en échelle, un souci qui rejoint les démarches récentes de fournisseurs de sécurité comme Fortinet avec FortiEndpoint, qui vise justement à contrôler les agents d’IA sur les postes de travail.

Difficultés pour faire évoluer l’inférence	Pourcentage
Sécurité, gouvernance et MLOps	79 %
Alignement entre systèmes et métier	64 %
Performance et efficacité des modèles	64 %
Gestion des coûts	46 %
Sécurité comme problème spécifique	39 %

Côté sécurité, la chaîne d’approvisionnement de l’IA arrive en tête des préoccupations : modèles tiers, poids libres, bibliothèques, données d’entraînement et composants susceptibles d’introduire des vulnérabilités ou des comportements inattendus.

Préoccupations de sécurité liées à l’IA	Pourcentage
Chaîne d’approvisionnement IA et ML	48 %
Données en environnement multiclient	41 %
Accès non autorisé ou extraction de modèles	39 %

Le rapport pointe aussi l’injection d’instructions malveillantes et la manipulation d’outils : un attaquant peut glisser des commandes dans une page web, un email ou un document que l’agent va ensuite analyser. La réponse recommandée passe par des identités séparées, des permissions minimales, des logs d’activité et une validation humaine pour les opérations sensibles, afin de pouvoir retracer quels modèles, outils, données ou actions ont été impliqués.

Côté déploiement, 52 % des entreprises adoptent une architecture hybride multicloud, contre 41 % en 2025. 90 % jugent l’IA en périphérie (edge) importante, 72 % très ou extrêmement importante. L’exécution en périphérie réduit la latence, assure la continuité en cas de coupure réseau et limite le nombre de requêtes envoyées vers le cloud, sans remplacer les centres de données centraux.

Indicateurs d’architecture et de déploiement	Pourcentage
Stratégie hybride multicloud	52 %
Importance de l’IA en périphérie	90 %
Perception de l’edge comme très/extrêmement important	72 %
Priorité au contrôle de la résidence des données	48 %
Plateforme intégrée comme critère clé	69 %

48 % des responsables privilégient des infrastructures garantissant la localisation des données sensibles, personnelles, industrielles ou financières, sous l’effet des réglementations locales. L’énergie pèse aussi lourd : 91 % des responsables tiennent compte de la consommation électrique à l’achat de matériel d’inférence, et 61 % en font un facteur principal ou important, une contrainte qui touche aussi les fournisseurs cloud côté matériel, comme l’illustrait le nouveau serveur Power11 d’IBM conçu pour exécuter l’inférence localement plutôt que dans le cloud.

Poids de l’énergie dans le choix du matériel	Pourcentage
Impact sur la consommation pris en compte	91 %
Facteur principal ou significatif	61 %

Il ne s’agit pas seulement du prix de l’électricité. Les équipements haute densité demandent souvent de nouvelles lignes d’alimentation, une réfrigération liquide, des racks spécifiques ou des rénovations de centre de données. Dans certaines régions, la capacité électrique disponible limite directement l’installation de nouveaux accélérateurs.

Perspectives

Les investissements futurs se concentrent sur l’infrastructure : 84 % prévoient d’y consacrer des ressources importantes dans les 12 à 24 prochains mois, contre 67 % pour les données et 55 % pour la sécurité.

Investissements prévus (12-24 mois)	Pourcentage
Infrastructure centrale et opérations	84 %
Données	67 %
Sécurité	55 %

Déployer des agents ne dépend donc pas seulement de modèles plus performants. Les entreprises doivent moderniser leurs interfaces, consolider leurs données, surveiller les coûts et définir des permissions avant de confier des actions autonomes à un système. Ce rapport, publié par Google Cloud, met logiquement en avant ses propres plateformes intégrées et services managés, mais le constat tient : beaucoup d’organisations ont avancé plus vite dans leurs plans d’IA que dans la préparation des systèmes censés les soutenir.

Questions fréquentes

Qu’est-ce qu’un système d’IA agentique ?

Une application capable de planifier des tâches, de conserver du contexte, de consulter des outils et d’exécuter des actions en plusieurs étapes, avec une certaine autonomie mais une supervision humaine pour les opérations sensibles.

Pourquoi ne suffit-il pas d’ajouter plus de GPU ?

Les principaux obstacles concernent l’intégration des données, les API obsolètes, la sécurité, les permissions et la complexité opérationnelle. Plus d’accélérateurs améliore la capacité de calcul, pas ces limitations.

Quel pourcentage d’entreprises est totalement prêt ?

Seuls 17 % des responsables font totalement confiance à leur infrastructure pour déployer des agents critiques en production.

Où les entreprises vont-elles investir en priorité ?

84 % prévoient de consacrer des ressources importantes à l’infrastructure centrale et aux opérations dans les 12 à 24 mois, suivis par 67 % pour les données et 55 % pour la sécurité.

Via : rapport Google State of infrastructure in the agentic AI era 2026