Pourquoi un agent IA coûte 30 fois un chatbot

Parce qu’un agent relit tout son contexte à chaque étape. Un modèle n’a aucune mémoire entre deux appels : ce qui a été dit trois étapes plus tôt doit être renvoyé en entier à la quatrième, et payé à nouveau au plein tarif. Une tâche en cinq étapes coûte environ trois fois une réponse de chatbot, et le rapport dépasse trente au-delà de cinquante étapes.

C’est le mécanisme qui explique la plupart des mauvaises surprises budgétaires de 2026, y compris chez des équipes qui n’ont rien fait de déraisonnable. Un développeur a accumulé 4 200 dollars d’appels en un long week-end sur une seule session autonome, et la dépense mensuelle médiane d’un développeur équipé s’établit à 480 dollars, contre 80 au premier décile.

Où part l’argent, poste par poste

La ventilation est remarquablement stable d’un système à l’autre, et elle surprend presque tout le monde la première fois. Le contexte renvoyé à chaque étape représente 62 % de la facture, les définitions d’outils 14 %, le raisonnement effectivement produit 11 %, le prompt système 8 %, et les réessais qui n’ont servi à rien 5 %.

Autrement dit, la partie que vous croyez payer, celle où le modèle réfléchit et rédige, pèse un neuvième du total. Les huit neuvièmes restants sont de la répétition : les mêmes instructions, les mêmes descriptions d’outils et le même historique, relus intégralement à chaque tour de boucle.

Les 14 % qui partent en définitions d’outils méritent un second regard, parce que c’est le poste auquel personne ne pense. Chaque outil que l’agent pourrait théoriquement appeler est décrit en entier à chaque étape, qu’il serve ou non, si bien qu’un produit branché sur trente intégrations les paie toutes les trente sur une tâche qui en touche une. C’est l’argument pratique le plus solide en faveur d’agents au périmètre étroit, et c’est le même raisonnement qui rend un skill généré automatiquement pire que pas de skill du tout.

Ce déséquilibre a une conséquence directe sur la façon d’optimiser. Raccourcir les réponses ne sert quasiment à rien, alors que réduire ce qui entre dans le contexte à chaque étape agit sur le poste principal. C’est aussi pourquoi la question de la mémoire n’est pas seulement une question de qualité : une mémoire qui gonfle coûte de l’argent en plus de dégrader les réponses.

Le cache change tout, et il est plus fragile qu’il n’y paraît

Les fournisseurs facturent environ 90 % moins cher la partie du contexte qu’ils reconnaissent avoir déjà traitée. Sur un prompt système de trois mille unités répété cinquante fois, la facture passe de 0,45 à 0,053 dollar, soit 88 % de moins pour un changement qui ne modifie aucune réponse.

La contrainte, elle, est brutale : la correspondance doit être exacte, octet pour octet, sur tout le début du contexte. Un seul caractère différent quelque part dans le préfixe casse l’empreinte et vous fait payer l’intégralité au plein tarif, sans qu’aucun message d’erreur ne vous prévienne que vous venez de perdre le cache.

Ce qui le casse est presque toujours involontaire. Un horodatage placé en tête du prompt, des définitions d’outils sérialisées dans un ordre différent d’un appel à l’autre, un espace en fin de ligne, un changement de modèle en cours de session : chacun de ces détails, individuellement anodin, multiplie la facture par dix sur la partie la plus répétée du système.

Ce que nous avons dû changer dans notre propre agent

Nous avons découvert le sujet de la façon la plus banale qui soit, en regardant une facture qui ne baissait pas alors que nous avions raccourci les réponses. Le préfixe de nos prompts contenait la date du jour, ce qui paraissait utile pour qu’un agent sache quand il travaille, et suffisait à invalider le cache à chaque appel.

La règle que nous appliquons depuis est écrite dans le code plutôt que dans un document, parce qu’une règle de ce type se perd en trois semaines si elle dépend de la vigilance de quelqu’un. Tout ce qui varie, la date, l’identifiant de la conversation, l’état du dossier en cours, se place après la partie stable, et l’ordre de sérialisation des outils est figé au lieu d’être laissé à la structure de données qui les porte.

Le deuxième changement a été de traiter le réessai silencieux comme un défaut de conception et pas seulement comme un coût. Les 5 % de la facture qui partent en tentatives inutiles sont surtout le symptôme d’un agent qui recommence sans le dire, ce qui est exactement le comportement dont un bon agent doit être incapable. Un agent qui échoue franchement coûte moins cher qu’un agent qui insiste.

Le paradoxe : le prix s’effondre et la facture monte

Le coût d’un même niveau de réponse a chuté d’un facteur 280 en dix-huit mois, et c’est une baisse réelle, mesurable, qui ne s’est accompagnée d’aucune baisse des factures d’entreprise. Le phénomène est ancien, il porte un nom en économie, et il se vérifie ici sans nuance : quand une ressource devient bon marché, on en consomme davantage.

Concrètement, une équipe qui met en place le cache et divise son coût par étape ne rend pas l’argent économisé. Elle allonge les boucles, agrandit les contextes, lance des essais qu’elle s’interdisait, et se retrouve six semaines plus tard avec la même facture pour un système qui fait beaucoup plus. C’est un bon résultat, à condition que personne n’ait promis une baisse.

Il y a là une conséquence pour les acheteurs qui vaut d’être dite clairement. Un éditeur qui vous propose de refacturer les unités consommées vous transfère un risque que vous ne pouvez ni prévoir ni piloter, et qui dépend entièrement de choix d’ingénierie que vous ne voyez pas. Le prix doit porter sur le travail rendu, pour la même raison qu’il ne doit pas porter sur le nombre de sièges.

Ce qu’il faut demander avant de signer

Trois questions suffisent à savoir si un éditeur a travaillé le sujet ou s’il a branché un modèle et regardé ailleurs.

Quel est le coût d’une tâche type, chez vous, aujourd’hui ? Un éditeur qui a instrumenté son système répond avec un chiffre et une dispersion ; un éditeur qui n’a pas regardé répond en parlant du prix du modèle, qui n’est pas la question posée.

Que se passe-t-il quand une tâche part en boucle ? La bonne réponse décrit une limite dure, un arrêt et une trace lisible. L’absence de réponse signifie qu’il existe quelque part un cas où votre agent tourne toute la nuit, et vous l’apprendrez à la facturation.

Comment évolue le coût quand la conversation s’allonge ? Un produit qui n’a rien prévu voit sa dépense croître avec le carré de la longueur, parce que chaque étape renvoie tout ce qui précède. Un produit qui a travaillé le sujet résume, élague et fait expirer, et sait vous dire à quel seuil il le fait.

Ce que ça dit du métier d’éditeur

L’économie des unités consommées est en train de redevenir un avantage compétitif, après trois ans où elle ne comptait pour personne parce que tout le monde payait des montants négligeables. Deux produits branchés sur le même modèle, rendant le même service, peuvent différer d’un facteur dix sur le coût de revient, et cet écart finit toujours par se voir dans le prix ou dans la marge.

C’est aussi ce qui rend la comparaison entre agents plus difficile qu’entre logiciels classiques. Le coût de revient d’un agent dépend de décisions internes invisibles depuis l’extérieur, au même titre que sa politique d’oubli, et une démonstration n’en montre rien. La suite logique est donc l’essai : comment tester un agent avant de signer, en mesurant le coût par tâche autant que la qualité des réponses.