Le prix par million de tokens est une donnée fournisseur. Il ne permet de rien décider. La question que se pose la direction est différente : combien coûte l’exécution complète d’une tâche (traiter une facture, répondre à une réclamation, préparer une proposition), et combien coûtait-elle auparavant lorsqu’elle était faite à la main.
La tokeneconomics consiste à traduire la consommation des modèles dans cette unité.
Du prix par token au coût par tâche
Une tâche se résume rarement à un seul appel. Il s’agit le plus souvent d’une chaîne : lire un document, extraire des données, interroger un système, rédiger, relire. Chaque étape consomme des tokens en entrée et en sortie, et certaines se répètent lorsque la première tentative ne convient pas.
Le coût par tâche s’obtient en additionnant toute la chaîne, relances comprises, et en divisant par le nombre de tâches effectivement accomplies, et non tentées. Un système qui recommence 30 % de ses tâches coûte nettement plus que ne l’indique le calcul optimiste.
Ce chiffre en main, il devient possible de faire la comparaison qui compte : coût par tâche automatisée contre coût par tâche manuelle, en incluant le temps de la personne qui vérifie.
Les leviers qui font bouger la facture
Cache de contexte. Lorsque de nombreuses requêtes partagent un bloc volumineux et identique (un manuel, un catalogue, de longues instructions), le payer à chaque appel revient à jeter de l’argent. Le cache de contexte le facture une fois, puis le réutilise à prix réduit pendant un certain temps. C’est le levier au meilleur rapport entre effort et économie.
Traitement par lots. Ce qui n’exige pas de réponse immédiate (trier le courrier de la nuit, résumer une documentation, enrichir un catalogue) peut être envoyé par lots, avec une remise notable en échange d’un délai. Une bonne part de la charge d’une entreprise n’est pas interactive, mais elle est facturée comme si elle l’était.
Taille du prompt. Les instructions s’allongent d’elles-mêmes : chaque incident ajoute une phrase et personne ne retire jamais rien. Les revoir et les élaguer réduit le coût de tous les appels à la fois.
Fenêtres longues. Placer un dossier entier dans le contexte est commode, et c’est parfois la bonne solution, mais cela se paie à chaque appel. Face à la récupération des seuls passages pertinents avec le RAG, la fenêtre longue l’emporte pour des analyses approfondies ponctuelles et perd sur les gros volumes.
Routage. Envoyer chaque tâche au modèle qui lui correspond est, dans la plupart des cas, le levier au plus fort potentiel. Il fait l’objet d’une page dédiée.
Le budget, une décision de gestion
Un système d’IA sans plafond de dépense est un risque ouvert. Le minimum raisonnable : un coût maximal par exécution, un coût maximal par jour, une alerte lorsque le coût moyen par tâche s’écarte des prévisions, et un responsable identifié pour ce poste de dépense.
Le coût par tâche fixe aussi le seuil à partir duquel un cas d’usage cesse d’avoir du sens. Si l’automatisation coûte plus cher que le traitement manuel, la bonne réponse est de ne pas automatiser, et mieux vaut le savoir avant de construire.
Quand cette démarche vaut la peine
Oui, lorsque :
- Un ou plusieurs cas d’usage sont déjà en production et la facture augmente chaque mois
- Il faut décider de passer un pilote à l’échelle : le coût par tâche est la donnée qui fonde la décision
- Il faut défendre l’investissement dans l’IA devant un comité avec des chiffres, et non des impressions
Non, lorsque :
- Le projet en est à la preuve de concept et la dépense est marginale : il faut d’abord valider la valeur
- Le volume est si faible que toute optimisation rapporterait moins que ce qu’elle coûte à mettre en place
Notre démarche
Nous commençons par instrumenter : chaque appel est étiqueté par cas d’usage, avec son coût et son résultat. Au bout de deux ou trois semaines de données réelles, la répartition apparaît (en général, quelques opérations concentrent l’essentiel de la dépense) et c’est là que nous agissons : cache, lots, élagage des instructions et routage. Le résultat se mesure par rapport à la facture du mois précédent, à volume et qualité égaux.
Questions fréquentes
Combien peut-on économiser sans toucher à la qualité ? Cela dépend du point de départ. Là où rien n’a été optimisé, le cache et les lots apportent généralement la première baisse importante, sans changer de modèle ni de résultat. Le chiffre honnête n’apparaît qu’après la mesure.
Le fournisseur ne s’en charge-t-il pas ? Le fournisseur propose les mécanismes (cache, lots, tailles de modèle), mais décider où les appliquer relève de l’architecture et dépend de vos tâches.
Comment présenter cela au comité de direction ? Avec deux chiffres par cas d’usage : le coût par tâche accomplie et l’économie réalisée par rapport au processus manuel. Tout le reste est du détail technique.