Selon une étude de Google Cloud basée sur les réponses de 1 402 responsables technologiques, 83 % des grandes organisations considèrent que leur infrastructure doit être améliorée avant de déployer des agents d’intelligence artificielle en production. Le défi ne se limite pas à l’acquisition de GPU supplémentaires : l’intégration avec des systèmes anciens, les coûts d’inférence, la sécurité, la gestion des données et la consommation énergétique figurent parmi les principaux obstacles.

Les clés de l’infrastructure pour une IA agentique en 30 secondes

• Seul 17 % des entreprises ont une totale confiance en leur capacité à exécuter des agents critiques avec leur infrastructure actuelle.
• L’inférence représente désormais 47 % du budget dédié à l’intelligence artificielle, contre 28 % pour la formation des modèles.
• 81 % des répondants identifient la complexité opérationnelle comme un coût caché.
• La sécurité, la gouvernance et MLOps préoccupent 79 % des responsables.
• 84 % prévoient d’investir massivement dans l’infrastructure et les opérations dans les deux prochaines années.

Ce rapport marque la transition d’une IA centrée sur la génération de réponses vers des systèmes capables de planifier, conserver du contexte, consulter des outils et exécuter des actions. Une requête peut déclencher des recherches dans des bases de données, des appels à diverses API, des vérifications d’inventaire, des communications avec d’autres agents ou des modifications dans des systèmes d’entreprise.

Une telle activité continue nécessite une infrastructure différente de celle utilisée pour tester un chatbot ou entraîner un modèle ponctuellement. Les agents nécessitent de la mémoire, un accès rapide aux données, de l’observabilité, des identités propres, des permissions limitées et la capacité de maintenir des processus sur le long terme.

L’étude, réalisée en janvier 2026 par Google Cloud et GBK Collective, a impliqué des responsables informatiques de 12 pays, employant plus de 1 000 salariés dans la plupart des cas, sauf en Asie-Pacifique et en Amérique Latine où le minimum s’établit à 500. Tous les participants utilisaient ou envisageaient d’utiliser l’IA générative dans les 12 mois à venir. Ces résultats reflètent donc l’état d’avancement de grandes organisations intéressées par la technologie, sans représenter l’ensemble du tissu entrepreneurial.

Une entreprise sur six seulement se sent prête

Le graphique d’état de préparation, présent en page 6 du rapport, divise les organisations en cinq groupes. 12 % ont besoin de modifications fondamentales, 29 % doivent actualiser leurs systèmes centraux, tandis que 27 % estiment n’avoir besoin que de petites intégrations et ajustements.

Par ailleurs, 16 % pourraient lancer des agents pilotes avec peu d’effort, mais n’ont pas encore confiance pour les déployer sur des services critiques. Seuls 17 % pensent être entièrement prêts pour des agents en production participant à des processus critiques.

La somme des catégories dépasse légèrement 100 % en raison de l’arrondi, mais Google Cloud considère que 83 % des organisations ont encore une marge d’amélioration pour atteindre une préparation complète.

Le principal vide technique ne concerne pas les accélérateurs. 43 % des responsables rencontrent des difficultés pour connecter des agents à des API anciennes ou des sources de données héritées. 36 % regrettent l’absence de bases de données vectorielles performantes, et 35 % jugent la sécurité insuffisante pour accéder à plusieurs systèmes.

Les réponses étant multiples, une même organisation peut faire face aux trois limitations, une situation fréquente lorsque l’agent doit interroger des applications créées à différentes époques et combiner des données dispersées dans plusieurs environnements.

L’enjeu consiste à fournir un contexte sans donner un accès illimité. Un agent chargé d’une commande d’achat pourrait nécessiter de consulter ventes, inventaire, fournisseurs et logistique, mais sans pouvoir modifier tous ces systèmes avec les mêmes droits.

L’inférence dépasse déjà la formation en termes de budget

La dépense continue liée à l’utilisation des modèles déplace une grande partie du budget de la formation vers l’inférence. Celle-ci constitue désormais 47 % du budget AI, contre 28 % pour la formation.

Cette évolution est importante car un agent ne fournit pas une réponse unique et finie. Il peut entretenir de longues conversations, utiliser des outils, vérifier des résultats et reformuler ses requêtes, chaque étape consommant des capacités de calcul, mémoire, stockage et réseau.

Google Cloud évoque le terme “impuesto de inferencia” pour désigner ces coûts d’échelle liés à l’utilisation accrue sur des plateformes préexistantes. Bien que qui soit un terme marketing, les données établissent que 62 % des répondants citent des coûts directs liés à l’infrastructure, incluant stockage, transferts de données et accélérateurs sous-utilisés.

Le coût le plus critique reste cependant la complexité opérationnelle : 81 % des responsables en soulignent le caractère coûteux en ingénierie, lié à l’intégration de modèles, bases de données, outils, contrôles d’accès et plateformes de surveillance.

De plus, 96 % des répondants considèrent que l’efficacité économique est essentielle pour choisir une infrastructure. 32 % la qualifient d’extrêmement importante, 49 % très importante, et 15 % importante.

Ce souci pousse vers les services managés, qui externalisent la gestion de l’approvisionnement, l’extension des clusters et une partie de la maintenance. Le rapport indique que les organisations avancées en IA utilisent 50 % de services gérés en plus que la moyenne.

Cette commodité peut également accroître la dépendance aux fournisseurs. 78 % déclarent acheter leurs solutions d’IA générative directement auprès de leur principal partenaire cloud, contre 48 % en 2025. Google interprète cette tendance comme une recherche d’intégration et de gouvernance centralisées, mais cela implique aussi de considérer la portabilité, les coûts de sortie et la possibilité de changer de plateforme.

Sécurité, cloud hybride et énergie : les priorités pour l’investissement futur

Les agents étendent la surface de risque car ils peuvent agir au nom d’une personne ou d’un processus métier. 79 % des responsables citent la sécurité, la gouvernance et MLOps comme les principaux enjeux lors de la mise à l’échelle de l’inférence.

En matière de sécurité, la chaîne d’approvisionnement de l’IA représente la première préoccupation. Elle englobe les modèles tiers, les poids libres, les bibliothèques, les données d’entraînement et les composants susceptibles d’introduire des vulnérabilités ou des comportements inattendus.

L’étude souligne aussi des risques comme l’injection d’instructions malveillantes ou la manipulation d’outils. Un attaquant pourrait introduire des commandes malveillantes dans une page web, un email ou un document que l’agent analyserait ensuite.

La réponse recommandée consiste à utiliser des identités séparées, des permissions minimales, des logs d’activité et des validations humaines pour les opérations sensibles. L’objectif est de pouvoir retracer quels modèles, outils, données ou actions ont été impliqués, non seulement pour analyser une réponse, mais aussi pour reconstruire l’historique complet des opérations.

Concernant le déploiement, 52 % des entreprises adoptent une architecture hybride multicloud, contre 41 % en 2025. 90 % estiment que l’IA en périphérie (edge) est importante, et 72 % la considèrent comme très ou extrêmement importante.

L’exécution d’IA en périphérie permet de réduire la latence, d’assurer la continuité en cas de défaillance de la connexion et de limiter le nombre de requêtes envoyées vers le cloud. Elle ne remplace pas complètement les centres de données centraux, mais permet d’adapter chaque tâche à ses exigences spécifiques.

La résidence des données, notamment, influence cette distribution. 48 % des responsables privilégient les infrastructures avec des contrôles garantissant la localisation des informations sensibles, comme les données personnelles, industrielles ou financières. La réglementation de chaque juridiction influence aussi bien la gestion des bases de données que des registres ou services associés.

L’énergie constitue une autre contrainte majeure. 91 % des responsables prennent en compte la consommation électrique lors de l’achat de matériel d’inférence, et 61 % la jugent comme une considération principale ou importante.

Il ne s’agit pas uniquement du coût de l’énergie électrique. Les équipements haute densité nécessitent souvent de nouvelles lignes d’alimentation, une réfrigération liquide, des rack spécifiques ou des rénovations en centre de données. Dans certaines régions, la capacité électrique disponible limite directement l’installation de nouveaux accélérateurs.

Ainsi, les investissements futurs se concentrent principalement sur la dimension technologique. 84 % prévoient de consacrer des ressources importantes à l’infrastructure et aux opérations dans les 12 à 24 prochains mois, contre 67 % pour les données et 55 % pour la sécurité.

Les résultats montrent que la mise en place d’agents ne dépend pas uniquement de modèles plus performants. Les entreprises doivent moderniser leurs interfaces, consolider leurs données, surveiller les coûts et définir des permissions avant de confier des actions autonomes à un système.

Ce rapport, élaboré par Google Cloud, met en avant l’importance des plateformes intégrées, des services managés et de leur propre infrastructure. Mais il souligne également une tension : beaucoup d’organisations ont avancé plus vite dans leurs plans d’IA que dans la préparation des systèmes pour soutenir cette évolution.

Questions fréquentes

Qu’est-ce qu’un système d’IA agentique ?

C’est une application capable de planifier des tâches, de conserver du contexte, de consulter des outils et d’exécuter des actions en plusieurs étapes. Elle peut fonctionner avec une certaine autonomie, tout en requérant une supervision humaine pour des opérations sensibles.

Pourquoi ne suffit-il pas d’ajouter plus de GPU ?

Les principaux obstacles évoqués concernent l’intégration des données, les API obsolètes, la sécurité, les permissions et la complexité opérationnelle. Même si les accélérateurs améliorent la capacité de calcul, ils ne résolvent pas en eux-mêmes ces limitations.

Quel pourcentage d’entreprises est totalement prêt ?

Seul 17 % des responsables ont une confiance totale en leur infrastructure pour déployer des agents critiques en production.

Où les entreprises investiront-elles le plus ?

84 % prévoient de consacrer des ressources importantes à l’infrastructure centrale et aux opérations dans les 12 à 24 mois, suivis par 67 % pour les données et 55 % pour la sécurité.

Vía : Rapport Google State of infrastructure in the agentic AI era 2026