Coût de l’IA agentique : routage et tokenomics, les leviers des DSI

Le paradoxe de l’inférence, ou pourquoi l’agent ne dort jamais

Le décor a été planté d’entrée lors de la Matinale IT for Business consacrée à l’explosion des coûts de l’IA, animée le 17 septembre 2026 par Thomas Pagbe : selon McKinsey, 93 % des entreprises ont déjà dépassé leur budget IA, et le passage à l’échelle multiplie la dépense par près de quatre. En cause, des agents autonomes qui enchaînent les appels au modèle sans interruption. Gartner a nommé ce phénomène le paradoxe de l’inférence. Abdelbari Bouzarkouna, Data & AI Leader chez SoftwareOne, résume le glissement : « Le vrai risque n’est pas forcément l’explosion du prix de l’IA, mais l’explosion de son usage. Aujourd’hui, l’IA a un usage dynamique : elle fonctionne 24 heures sur 24, avec plusieurs utilisateurs, plusieurs agents qui collaborent et des appels à d’autres outils. Au final, je ne paie pas une requête, je paie toute une chaîne d’actions. »

L’ordre de grandeur donne le vertige : AT&T en est arrivé à 45 milliards de tokens par jour pour quelque 1 000 workflows agentiques. Côté poste de travail, Eric Bezille, CTO Ambassador chez Dell Technologies, cite des chiffres Gartner selon lesquels un quart des entreprises sondées dépensaient déjà entre 200 et 500 dollars par mois et par développeur en assistants IA, une facture qui pourrait égaler en 2028 le salaire moyen d’un développeur. Sauf que la prédiction s’est déjà matérialisée : « Autour de juin, j’ai commencé à avoir des appels entrants. Des clients avaient fait x8 sur leur coût de consommation de ces assistants. D’autres avaient un coût moyen par poste autour de 1 000 dollars, qui pouvait monter à 16 000 dollars par mois et par développeur. »

Le token, une unité de compte, pas une boussole de gestion

Comprendre pourquoi la facture dérape suppose de revenir à l’unité de base : le token, ou jeton. Une IA générative ne lit pas le texte comme un humain ; elle le découpe en fragments numériques lors d’une étape appelée tokenisation. Selon la documentation d’OpenAI, un token vaut environ quatre caractères en anglais, soit les trois quarts d’un mot. Le français est structurellement plus coûteux : un token y équivaut à environ 0,70 mot contre 0,75 en anglais, et une étude de chercheurs d’Oxford publiée en 2023 chiffre à environ 50 % le surcoût pour traiter un texte en allemand ou en italien par rapport à l’anglais, un écart qui grimpe jusqu’à quinze fois pour les langues qui n’utilisent pas l’alphabet latin.

Cette mécanique explique pourquoi comparer deux usages au seul volume de jetons ne dit rien de la dépense réelle. Le prix du million de tokens varie fortement d’un modèle à l’autre, et les tokens de sortie sont généralement facturés plus cher que ceux d’entrée.

OpenAI présente Sol comme deux fois plus fiable que son prédécesseur pour un coût bien moindre, et Luna comme capable d’égaler les performances de GPT-5.6 Sol pour un coût environ cent fois inférieur, selon les tests communiqués par l’éditeur. Ces écarts de prix, revendiqués par le fournisseur, montrent concrètement pourquoi le choix du modèle pèse davantage sur la facture que le simple volume de requêtes.

Router plutôt que de sortir la Ferrari à chaque requête

Le réflexe le plus coûteux consiste à envoyer systématiquement chaque requête au modèle le plus puissant du moment. Olivier Serfaty, directeur Data, IA et Innovation chez Inetum, démonte les multiplicateurs spectaculaires souvent avancés : « Lorsqu’on parle de x100, on compare le coût d’un workflow agentique à un simple appel à un chatbot. Il faut comparer ce workflow à l’alternative humaine. Si ça nous prend trois jours pour obtenir cette information et qu’on le fait en trois heures, c’est ça qu’il faut comparer. » Selon lui, le LLM ne pèse plus que 3 à 4 % de l’édifice technique complet d’un cas d’usage.

D’où l’essor des passerelles IA. Vincent Lavergne, Global AI Leader chez F5, plaide pour des indicateurs de tokenomics et des contrôles stricts : « On voit apparaître un nouveau type de solution, la passerelle IA, qui contrôle les quotas et met en place des mécanismes d’optimisation. Exemple tout bête : si tous les matins l’ensemble des employés demandent la météo pour savoir comment s’habiller, ça a un coût. Peut-être que je peux mettre cette réponse en cache pour éviter que 1 000 ou 2 000 employés fassent la même requête. » Il précise qu’il s’agit d’un cache sémantique, capable de reconnaître une même question formulée de mille façons.

Thomas Lussiez, Alliance Manager AWS chez Inetum, défend la même logique : les plateformes multimodèles doivent permettre de sélectionner le modèle en fonction de la tâche, du niveau de performance attendu et du prix. Côté éditeurs, Bob, l’assistant de code d’IBM, et watsonx Orchestrate sont facturés à la mission plutôt qu’au token, tandis que Zoom mise sur un routage dynamique via son Z-scorer, décrit par Stéphane Beaumont, directeur des ventes partenaires Europe du Sud, comme « le chef d’orchestre qui fait jouer la bonne partition avec le bon instrument ».

La tokenomics : remonter du jeton à l’acte métier

Savoir qu’une entreprise a consommé dix millions de tokens ne dit rien de ce qu’elle en a fait. Olivier Serfaty propose de remonter du coût technique vers l’acte métier : combien coûte l’analyse d’un CV, d’un contrat, la production d’un tableau financier ? L’optimisation du prompt, le choix du modèle, le cache et la simplification du workflow ne viennent qu’ensuite.

Chez la Matmut, Melissa Kocan, AI Business Partner, situe la supervision avant même la première consommation : « La supervision commence avant même la consommation du premier token. On va qualifier chaque usage : quel est le besoin, quel est le bénéfice client attendu, quel est le bénéfice métier attendu ? J’en rajouterais même deux autres : combien est-ce que ça nous coûte, et est-ce qu’on n’aurait pas une solution plus sobre à mettre à disposition ? »

Chez Christofle, Haifa Dalaji, DSI, illustre le garde-fou inverse : un assistant shopping testé sur environ 500 conversations a produit un taux de conversion proche de 6 %, sans que l’entreprise en tire une conclusion hâtive. « Nous ne sommes pas en mesure de dire que toutes ces conversions ont été obtenues grâce aux conversations avec l’agent. Il faut distinguer ce qu’on observe de l’IA de ce qu’on peut réellement lui attribuer comme bénéfice. » Diego Ferri, associé IA chez EY, pousse le raisonnement plus loin dans une tribune publiée sur Maddyness : les coûts cachés ne se limitent pas aux tokens. Il cite la hausse annoncée par Nvidia, jusqu’à 30 % sur certaines cartes graphiques, les mises à niveau de systèmes historiques comme SAP que le projet IA rend nécessaires sans qu’elles lui soient toujours imputées, et les budgets de formation des collaborateurs, souvent pilotés de manière globale. Il anticipe l’apparition d’un nouveau rôle, celui de « directeur de l’économie agentique », chargé de suivre la valeur, les coûts et les risques de façon transverse.

Ce que le contrat ne montre pas : les enseignements de l’étude Najar

Le rapport « État des dépenses IA en Europe 2026 » publié par Najar, basé sur les données de plus de 250 entreprises européennes clientes, met des chiffres sur cette dérive. Une enquête Gartner auprès de 1 303 responsables montre qu’environ 11 % des organisations ignorent totalement ce que leurs fonctions ont dépensé en IA en 2025, alors que 85 % prévoient d’augmenter ces dépenses en 2026.

Cursor illustre le nouveau modèle économique : un prix fixe par utilisateur auquel s’ajoute une part variable liée au volume de requêtes envoyées aux modèles d’OpenAI ou d’Anthropic, refacturée aux tarifs de ces fournisseurs majorés d’une commission, et régularisée chaque trimestre. Snowflake pousse la logique plus loin avec Cortex AI : depuis le 1er avril 2026, une partie de ses fonctions d’IA est facturée dans une monnaie distincte, le crédit IA, à prix fixe de 2 dollars l’unité, ou 2,20 dollars si les traitements restent dans la région du client. Les remises négociées sur les crédits Snowflake classiques ne s’appliquent pas à cette nouvelle monnaie. Côté agrégateurs multimodèles comme Dust, 95,6 % des entreprises qui l’utilisent paient également OpenAI en direct, et seules 4,4 % ont résilié un contrat fournisseur : l’agrégation ne réduit donc pas toujours le nombre de factures.

Trois parades pour les DSI : produire, ne pas s’enfermer, hybrider

Face à cette dépendance, Ilham Guggenheim, directrice de programme SCA Plateforme au Service du commissariat des armées, décrit la voie la plus radicale : une IA générative développée en interne, avec plusieurs modèles et des usages RAG adaptés aux corpus des entités. « Le ministère des Armées a adopté une méthode frugale et de bon sens : développer sa propre IA et en maîtriser les usages. Nous avons aujourd’hui plus de 100 000 utilisateurs. C’est un vrai succès pour une solution maison. »

Deuxième parade : ne jamais s’enfermer. Jean-Christophe Heymonet, DSI d’Harmonie Mutuelle, rappelle qu’un partenariat sans porte de sortie reste une dépendance : « Les grands fournisseurs d’IA ne sont pas des partenaires, ce sont des fournisseurs de solutions. S’enfermer dans une solution sans aucune porte de sortie n’a rien de positif pour les trois ou quatre ans à venir. » Sa stratégie repose depuis plus de dix ans sur l’open source et le recours à plusieurs modèles, pour éviter de dépendre d’un fournisseur susceptible d’augmenter ses tarifs de 10 à 40 %.

Troisième parade, l’hybridation, défendue par Eric Bezille : exécuter le bon modèle, au bon endroit, sur la bonne donnée, avec la bonne performance et le bon coût. Côté achats, Najar recommande d’imposer de vrais plafonds contractuels plutôt que de simples alertes à 80 % de consommation, de négocier les modules IA au moment du renouvellement du contrat principal, de contrôler la création des clés API et de désactiver les rechargements automatiques.

C’est dans cet espace que se situent les offres d’abonnement forfaitaire par siège, qui figent le prix quel que soit le modèle sollicité en interne. Moon AI, plateforme éditée par Stellarr Studio, propose par exemple plus de 100 modèles (GPT, Claude, Gemini, Mistral, DeepSeek, Llama, Grok, Qwen et son modèle maison Moon 6) dans un abonnement unique, avec des paliers en euros TTC par siège et par mois allant de 9,90 à 249,90 euros, et une offre gratuite sans carte bancaire. Ce type de tarification par siège ne supprime pas le besoin de router les requêtes vers le modèle adapté, mais elle offre au DSI une base prévisible, à l’opposé des factures à l’usage qui se découvrent parfois au trimestre.

Questions fréquentes sur le coût de l’IA agentique

Qu’est-ce que le paradoxe de l’inférence évoqué par Gartner ?

C’est le nom donné par Gartner au phénomène par lequel les agents autonomes, capables de fonctionner en continu et d’enchaîner des appels à d’autres outils, font exploser le volume de requêtes envoyées aux modèles, même lorsque le prix unitaire du token diminue. Selon McKinsey, le passage à l’échelle de l’IA multiplie ainsi la dépense par près de quatre.

Comment fonctionne concrètement le routage intelligent entre modèles ?

Une passerelle IA ou une plateforme multimodèle analyse chaque requête et l’oriente vers le modèle suffisant pour la tâche, plutôt que vers le plus puissant par défaut. Elle s’appuie souvent sur un cache sémantique pour éviter de refacturer plusieurs fois une même question posée sous des formulations différentes, comme le décrit Vincent Lavergne chez F5.

Le coût des tokens explique-t-il toute la facture de l’IA en entreprise ?

Non. Selon Olivier Serfaty, le modèle de langage ne pèse que 3 à 4 % de l’édifice technique d’un cas d’usage complet. Diego Ferri, associé IA chez EY, ajoute que l’infrastructure de calcul, les mises à niveau de systèmes historiques et la formation des collaborateurs constituent des coûts cachés rarement rattachés au projet IA lui-même.

Que peut encore négocier une DSI face aux éditeurs qui facturent l’IA à l’usage ?

Selon l’étude Najar, une DSI peut exiger de vrais plafonds contractuels empêchant le dépassement plutôt que de simples alertes, négocier les modules IA au moment du renouvellement du contrat principal, contrôler la création des clés API, désactiver les rechargements automatiques et imposer un préavis lorsque les tarifs figurent dans une grille en ligne susceptible d’évoluer.