IA agentique : la facture des DSI bascule de l’API vers l’infrastructure

Quand l’agent ne pose plus une question mais exécute une tâche

Un chatbot répond à une requête, puis se tait. Un agent fonctionne autrement. Selon l’économiste Axelle Arquié, cofondatrice de l’Observatoire des emplois menacés et émergents, l’IA agentique orchestre plusieurs instances de grands modèles de langage qui dialoguent entre elles et accèdent à des outils, fichiers ou logiciels. Une fois un objectif assigné, l’agent dispose d’une autonomie qui n’existe pas chez un chatbot passif.

Cette autonomie a un coût technique direct. Un agent qui perçoit, raisonne et agit en plusieurs étapes ne sollicite plus le modèle par a-coups : il l’interroge en continu, rappelle Les Numériques dans un dossier consacré à l’infrastructure de l’IA agentique. L’inférence devient alors un flux permanent, et ce flux réclame une infrastructure capable de le produire sans interruption, jour et nuit.

Le grand écart entre adoption et abandon des projets

Les chiffres de Gartner, cités par Les Numériques, résument la tension du moment. D’ici fin 2026, 40 pour cent des applications d’entreprise intégreront des agents spécialisés, contre moins de 5 pour cent en 2025. Mais le même cabinet prévoit que plus de 40 pour cent des projets d’IA agentique seront abandonnés d’ici fin 2027, faute de maîtrise des coûts et d’un socle d’infrastructure adapté.

Axelle Arquié pointe une incertitude qui explique en partie ce taux d’abandon annoncé : le prix unitaire du token baisse, mais la hausse de la consommation induite par l’IA agentique pourrait rendre l’automatisation de certaines tâches plus coûteuse que le travail humain. Autrement dit, le coût ne se lit plus à l’appel, mais au volume cumulé d’une inférence qui ne s’arrête jamais.

La réponse des constructeurs : bâtir des usines à tokens

Des serveurs calibrés pour tourner sans interruption

ASUS a annoncé que ses systèmes basés sur la plateforme NVIDIA HGX Rubin NVL8 seront livrables au quatrième trimestre 2026, en rack partiel ou complet. Deux formats visent des contraintes d’exploitation distinctes. Le XR R1I12B-M1BHFS, en 3U, combine refroidissement liquide direct sur la carte à huit GPU et refroidissement par air sur les processeurs Intel Xeon 6 ; selon ASUS, ce choix réduit jusqu’a 50 pour cent le temps de maintenance. Le XR R1I12B-M1BLFS, en 2U intégralement liquide, vise la densité et un meilleur PUE, l’indicateur qui mesure l’efficacité énergétique d’un centre de données.

Simuler avant de dépenser

La plateforme NVIDIA DSX pour AI factory réunit conception, simulation et exploitation. ASUS s’appuie dessus, avec Schneider Electric, AVEVA et IBM, pour réunir calcul, réseau, stockage, alimentation et refroidissement dans un même jumeau numérique, avant d’engager la moindre dépense physique. L’enjeu est économique : à cette échelle, le coût de production d’un token et la facture énergétique décident seuls de la viabilité d’un service en production. Les Numériques rappelle toutefois qu’un modèle type ne remplace jamais un calibrage sur le terrain, propre à chaque charge et à chaque site.

Au GTC Berlin 2026, dont Plain Concepts a publié un compte rendu, Jensen Huang a confirmé que la plateforme Vera Rubin était entrée en pleine production et présente DSX POD, un conteneur d’AI factory pré-intégré. D’après NVIDIA, une fois l’alimentation et le refroidissement en place, le délai de déploiement passerait d’environ six mois à quatorze jours, tandis que la plateforme DSX AI Factory promet une production équivalente avec jusqu’a 30 pour cent d’énergie en moins. NVIDIA a également présenté Minerva, une plateforme d’AIOps qui agrège la télémétrie de l’infrastructure et des charges de travail pour une observabilité de bout en bout.

Le réseau, angle mort de la facture agentique

Dans un entretien au Blog du Modérateur, Maher El Fekih, président de Colt Technology Services France, insiste sur un point souvent oublié : la connectivité. Il rappelle que la consommation électrique des data centers a progressé de 17 pour cent en 2025 et devrait doubler d’ici 2030, et pourrait même tripler pour les seuls data centers dédiés à l’IA. Mais avoir des GPU ne suffit pas s’ils ne peuvent ni être alimentés, ni connectés.

Cisco observe, sur des réseaux réels, que les flux d’inférence IA durent en moyenne deux fois plus longtemps que les transactions web classiques, et que le trafic d’inférence observé a été multiplié par quatre en huit mois, même s’il reste pour l’instant limité en volume absolu. Avec l’IA agentique, les machines communiquent entre elles à la vitesse du logiciel, plus seulement au rythme d’un utilisateur humain.

Cette pression touche aussi les câbles sous-marins. TeleGeography prévoit que la bande passante internationale progressera en moyenne de 24 pour cent par an entre 2025 et 2035, soit un quasi-doublement tous les trois ans, avec plus d’un nouveau câble transatlantique par an sur la période et un investissement mondial avoisinant 5 milliards de dollars par an. Les hyperscalers participent déjà à plus des deux tiers des nouveaux câbles sous-marins planifiés, contre une domination des opérateurs télécoms classiques en 2010, qui consommaient alors environ 75 pour cent de la bande passante internationale.

Face à ce décalage entre temps de construction d’un data center (un à deux ans) et temps de renforcement d’un réseau électrique, la Commission européenne veut au moins tripler la capacité des data centers de l’UE dans les cinq à sept prochaines années et mobiliser 200 milliards d’euros via InvestAI, dont 20 milliards pour des gigafactories IA. Des contraintes de réseau électrique ont déjà freiné des projets à Dublin et à Amsterdam, et la proposition de Digital Networks Act, présentée en janvier 2026, vise à simplifier les procédures d’autorisation.

Sécuriser les agents ajoute une ligne de coût avant même la production

Toujours selon le compte rendu de Plain Concepts, NVIDIA a présenté au GTC Berlin l’architecture de référence OpenShell, fondée sur un runtime open source qui applique des contrôles de politique et un cloisonnement au niveau du noyau. Jensen Huang y défend un principe simple : les privilèges d’un agent doivent rester au strict minimum, et être surveillés et ajustés à chaque exécution. Pour les organisations qui ont multiplié les pilotes, le message retenu par Plain Concepts est que le véritable goulet d’étranglement se situe désormais dans l’intégration, la sécurisation et l’exploitation des agents, et que le contrôle d’accès doit être conçu dès le départ plutôt qu’ajouté après le pilote.

Ce que ce basculement change pour les DSI francophones

Le Blog du Modérateur rappelle que la CNIL considère que les modèles entraînés sur des données personnelles peuvent relever du RGPD, et insiste sur la sécurité des environnements de développement IA. Pour une entreprise française, la question n’est plus seulement celle du modèle choisi, mais celle de la localisation du traitement, de la juridiction applicable et de la façon dont les données circulent entre le poste de travail, le cloud et les modèles tiers.

Axelle Arquié va plus loin et compare l’IA à l’électricité : une infrastructure qui, historiquement, a toujours justifié un contrôle public fort, que ce soit par la détention partielle ou totale des entreprises du secteur, des concessions ou une régulation élevée. Pour elle, la question de la propriété du capital des entreprises qui fourniront l’infrastructure cognitive de demain mérite d’être posée, d’autant que l’hébergement des données sur le territoire ne garantit pas, selon elle, la souveraineté.

Pour un DSI qui ne souhaite pas assumer lui-même l’achat de serveurs HGX Rubin, le refroidissement liquide ou le dimensionnement réseau, l’alternative consiste à passer par un accès mutualisé à plusieurs modèles, facturés au siège plutôt qu’à l’infrastructure. C’est le principe retenu par des plateformes comme Moon AI, éditée par Stellarr Studio SAS, qui regroupe plus de 100 modèles dans un abonnement unique et héberge son application chez OVHcloud, à Strasbourg et Roubaix ; les requêtes envoyées aux modèles tiers quittent néanmoins la France pour rejoindre leurs fournisseurs respectifs, après un passage par le dispositif Moon Blur, qui remplace les données personnelles par des jetons avant l’envoi puis les rétablit au retour, soit une pseudonymisation au sens du RGPD et non une anonymisation. Cette logique d’abonnement ne résout pas la question de l’énergie consommée en amont par les fournisseurs de modèles, mais elle déplace le risque de surcoût d’infrastructure du DSI vers l’éditeur de la plateforme.

Questions fréquentes

Pourquoi l’inférence d’un agent IA coûte-t-elle plus cher qu’un simple appel API ?

Parce qu’un agent ne se contente pas d’une réponse unique : il raisonne, agit et sollicite le modèle en continu sur plusieurs étapes. Les Numériques souligne que ce flux permanent réclame une infrastructure dimensionnée pour fonctionner sans interruption, ce qui déplace le coût du simple tarif au token vers l’ensemble des serveurs, du refroidissement et de l’électricité nécessaires pour les faire tourner.

Les data centers européens pourront-ils suivre la demande des agents IA ?

La Commission européenne vise à tripler la capacité des data centers de l’UE dans les cinq à sept prochaines années et à mobiliser 200 milliards d’euros via InvestAI. Mais, comme le note Maher El Fekih dans le Blog du Modérateur, le facteur limitant n’est pas seulement financier : le renforcement des réseaux électriques prend plus de temps que la construction d’un data center, et des contraintes ont déjà freiné des projets à Dublin et à Amsterdam.

Faut-il investir dans sa propre infrastructure ou rester sur des modèles facturés à l’usage ?

Les sources ne permettent pas de trancher dans l’absolu : cela dépend du volume d’inférence visé et de la sensibilité des données traitées. ASUS positionne ses systèmes HGX Rubin et son architecture DSX pour les organisations qui veulent garder la main sur leurs données dans des secteurs régulés. D’autres entreprises privilégient un accès mutualisé à plusieurs modèles, facturés au siège, pour éviter l’investissement en infrastructure physique.

Quel rôle joue le réseau dans le coût d’un projet d’IA agentique ?

Un rôle souvent sous-estimé. Maher El Fekih rappelle qu’une congestion ou une latence excessive peut laisser des accélérateurs coûteux attendre les données dont ils ont besoin, et que la demande sur les câbles transatlantiques progresse de 24 pour cent par an en moyenne entre 2025 et 2035, selon TeleGeography, alors que plusieurs câbles historiques arrivent en fin de vie.