Rubriques

Intelligence artificielle Automatisation Veille Écosystème lyonnais

Le site

Tous les articles Le média Nous écrire
Veille

Le coût du token expliqué : lire une facture d'API d'IA

Entrée, sortie, contexte rechargé à chaque tour, mise en cache : une facture d'API d'IA obéit à des règles simples, mais les postes qui explosent sont rarement ceux qu'on surveille.

Le coût du token expliqué : lire une facture d'API d'IA

Le coût API IA est la ligne budgétaire la plus mal anticipée des projets d'intelligence artificielle. Le prix affiché rassure : quelques euros par million d'unités de texte, c'est-à-dire presque rien. Puis la première facture mensuelle arrive, avec un facteur dix par rapport à l'estimation, et personne dans l'équipe ne sait exactement expliquer d'où vient l'écart.

L'explication est presque toujours la même, et elle n'a rien de mystérieux. La facturation se fait à l'unité de texte consommée, entrée et sortie confondues, et ce que l'on paie n'est pas ce que l'utilisateur écrit : c'est tout ce qui est envoyé au modèle, à chaque appel, y compris les instructions permanentes, les documents injectés et l'historique complet de la conversation.

Cet article démonte la mécanique, poste par poste, donne une méthode d'estimation à appliquer avant de lancer un service, et classe les leviers de réduction par efficacité réelle. Il s'adresse à qui doit défendre une enveloppe, pas seulement à qui écrit le code.

Coût API IA : comment se construit un prix par token

Un token est un fragment de texte, plus petit qu'un mot. En anglais, un token correspond à environ quatre caractères. En français, c'est moins favorable : les accents et la morphologie découpent davantage, et il faut compter en pratique entre 1,3 et 1,6 token par mot. Retenez une règle de coin de table : 1 000 mots de français font environ 1 400 tokens.

Les fournisseurs affichent leurs tarifs par million de tokens, avec deux prix distincts :

  • L'entrée : tout ce que vous envoyez au modèle. Instructions système, documents, historique, question de l'utilisateur.
  • La sortie : ce que le modèle produit. Elle est systématiquement plus chère que l'entrée, souvent d'un facteur trois à cinq, parce qu'elle est générée jeton par jeton.

Cette asymétrie a une conséquence contre-intuitive : sur un assistant de recherche documentaire, où l'on injecte beaucoup et où l'on répond court, la facture est dominée par l'entrée. Sur un générateur de comptes rendus, où l'on envoie peu et où l'on produit des pages, elle est dominée par la sortie. Les leviers d'optimisation ne sont pas les mêmes dans les deux cas.

Les quatre postes qui font exploser la facture

1. Le contexte rechargé à chaque tour

C'est de loin le premier poste de dérive. Un modèle n'a pas de mémoire entre deux appels : pour qu'il « se souvienne » de la conversation, on lui renvoie l'intégralité de l'échange à chaque tour. Le coût d'une conversation n'est donc pas linéaire, il est quadratique.

Prenons un exemple chiffré. Instructions système : 800 tokens. Chaque message utilisateur : 150 tokens. Chaque réponse : 400 tokens. Sur dix tours, l'entrée cumulée n'est pas de 1 500 tokens mais d'environ 33 000, parce que le tour 10 réexpédie tout ce qui précède. Sur vingt tours, on dépasse 120 000 tokens d'entrée pour une seule conversation.

Multipliez par le nombre de conversations mensuelles et vous obtenez l'essentiel de votre facture. Notre article sur le contexte long des modèles d'IA détaille pourquoi allonger la fenêtre n'est pas gratuit, ni en argent ni en qualité de réponse.

2. Les documents injectés par la recherche documentaire

Dans une architecture de type recherche augmentée, chaque question déclenche l'injection de plusieurs extraits de documents. Cinq extraits de 800 tokens, c'est 4 000 tokens d'entrée ajoutés à chaque question, avant même l'historique.

Beaucoup d'équipes règlent le nombre d'extraits à dix « pour être sûr ». Elles doublent leur facture sans amélioration mesurable, car au-delà de trois à cinq extraits pertinents, la qualité de réponse plafonne. C'est un réglage à tester, pas à supposer, comme nous l'expliquons dans notre guide sur le RAG appliqué aux documents d'entreprise.

3. Les appels invisibles

Un service en production consomme bien au-delà des échanges visibles par l'utilisateur :

  • Les reprises sur erreur : un appel qui échoue et se rejoue est facturé deux fois.
  • Les étapes intermédiaires : reformulation de la question, classification de l'intention, vérification de la réponse. Chacune est un appel complet.
  • Les boucles d'agent : un agent qui utilise des outils enchaîne cinq à quinze appels pour une seule demande, en rechargeant le contexte à chaque itération.
  • Les tests automatisés : un jeu d'évaluation de 200 cas exécuté à chaque modification représente une consommation régulière, parfois du même ordre que la production au démarrage.

4. Le choix du modèle par défaut

L'écart de tarif entre le modèle le plus capable d'un fournisseur et son modèle d'entrée de gamme se compte en ordre de grandeur, pas en pourcentage. Router systématiquement toutes les requêtes vers le plus gros modèle, y compris une classification binaire, est le gaspillage le plus simple à corriger.

Estimer sa facture avant de lancer : une méthode en cinq lignes

L'estimation n'a pas besoin d'être précise, elle a besoin d'être faite. Voici la formule et un exemple complet.

  1. Estimez le volume : nombre de conversations ou de traitements par mois.
  2. Estimez les tokens d'entrée moyens par appel : instructions + documents injectés + historique moyen.
  3. Estimez les tokens de sortie moyens par appel.
  4. Multipliez le nombre d'appels par appel utilisateur (agents, vérifications, reprises). Un facteur 1,3 est réaliste pour un service simple, 4 à 8 pour un agent.
  5. Appliquez les tarifs affichés, puis multipliez le total par deux. Cette marge n'est pas de la prudence excessive : elle couvre les cas longs, les tests et les usages non prévus.

Exemple : un assistant de support interne, 2 000 conversations par mois, 6 tours en moyenne, 5 000 tokens d'entrée moyens par tour (instructions, trois extraits documentaires, historique) et 350 tokens de sortie. Cela donne 12 000 appels, 60 millions de tokens d'entrée et 4,2 millions de tokens de sortie par mois. Avec un modèle de milieu de gamme, on est dans l'ordre de grandeur de quelques centaines d'euros par mois, doublés à un peu plus de mille euros une fois la marge appliquée.

Ce chiffre est à confronter au coût complet du projet, qui reste dominé par le temps humain, comme nous le détaillions dans notre article sur le coût d'un projet d'IA générative en entreprise.

Les leviers de réduction, par ordre d'efficacité

Tous les leviers ne se valent pas. Voici ceux qui produisent un effet mesurable, du plus rentable au plus marginal.

LevierEffet typiqueEffort
Réduire les documents injectés (de 10 à 4 extraits)Jusqu'à 50 % sur l'entréeFaible
Router les tâches simples vers un petit modèle30 à 70 % du totalMoyen
Tronquer ou résumer l'historique au-delà de N tours20 à 50 % sur les conversations longuesFaible
Activer la mise en cache du contexte stableRéduction notable sur la part répétéeFaible
Limiter la longueur maximale de sortie10 à 30 % sur la sortieTrès faible
Traiter en différé les lots non urgentsVariable selon le fournisseurMoyen

Un mot sur la mise en cache, souvent mal comprise. Le principe consiste à signaler au fournisseur qu'une portion du début de votre requête (les instructions système, un référentiel produit, un long document de référence) est identique d'un appel à l'autre. Cette portion est alors facturée à un tarif réduit sur les appels suivants. Le gain est réel quand le préfixe stable est long et que les appels s'enchaînent rapidement, et nul si votre contexte change à chaque requête. Les documentations d'OpenAI et d'Anthropic précisent les conditions d'éligibilité, qui diffèrent d'un fournisseur à l'autre.

Le routage vers un petit modèle est le levier le plus puissant mais aussi le plus exigeant : il suppose de savoir classer les requêtes, et de vérifier que la qualité ne se dégrade pas. Notre grille de choix d'un modèle d'IA donne les critères de cette évaluation.

Les garde-fous à poser dès le premier jour

Avant même l'optimisation, trois dispositifs évitent les mauvaises surprises :

  • Un plafond de dépense configuré au niveau du compte, avec des alertes à 50 % et 80 %. C'est le seul mécanisme qui protège d'une boucle infinie partie un vendredi soir.
  • Des clés distinctes par usage : une par service, une pour les tests, une pour le développement. Sans cela, la facture est un total unique dont personne ne sait décomposer l'origine.
  • Un enregistrement local de la consommation : pour chaque appel, l'usage, les tokens d'entrée, les tokens de sortie. Vous saurez alors quel service coûte quoi, sans attendre le relevé du fournisseur.

Ce dernier point est celui que les équipes ajoutent toujours trop tard, après le premier dépassement, et qu'elles regrettent de ne pas avoir posé dès le début.

Maîtriser ses dépenses IA : ce qu'il faut retenir

Le coût API IA se lit en trois questions : combien d'appels, combien de tokens d'entrée par appel, quel modèle. Le poste dominant est presque toujours le contexte réexpédié, pas la génération. Estimez avant de lancer, doublez votre estimation, posez un plafond et une mesure par usage dès la première semaine.

Ensuite, attaquez les leviers dans l'ordre : réduisez ce que vous injectez, puis routez vers un modèle moins cher ce qui n'a pas besoin du plus gros, puis activez la mise en cache. Trois réglages suffisent le plus souvent à diviser une facture par deux ou par trois, sans toucher à la qualité perçue par l'utilisateur.

Sources

Laisser un commentaire

Votre commentaire

Jamais publiée, jamais transmise à des tiers.

Les commentaires sont relus avant publication. Voir la politique de confidentialité.