Parce qu'un modèle ne calcule pas des requêtes, il calcule des tokens. Le prefill traite l'entrée, le décodage produit la sortie. La facture multiplie chacun par son tarif, et l'énergie suit le même découpage.
Une « requête » regroupe des volumes qui varient d'un facteur 100 entre deux appels du même modèle. Un facteur d'émission par requête vieillit donc mal, toujours vers la sous-estimation.
Ce qu'est un token, concrètement
Un modèle ne lit ni lettres ni mots, il lit des identifiants entiers issus d'un découpage en sous-mots. Les séquences fréquentes deviennent un seul token, les rares se décomposent en morceaux, si bien qu'aucun mot n'est jamais hors vocabulaire.
Un token vaut environ 4,9 caractères en anglais et 4,3 en français. On compte le calcul, la facture et l'empreinte dans cette unité, la seule des trois mesurable de bout en bout.
Le découpage est produit par un algorithme appelé BPE, qui fusionne itérativement les paires de symboles les plus fréquentes d'un grand corpus jusqu'à atteindre la taille de vocabulaire visée. Il en résulte une liste ordonnée de règles de fusion, appliquées de façon déterministe.
Conséquence à garder en tête pour toute la suite : le tokenizer est un artefact statistique du corpus sur lequel il a été construit. Ce qui y était fréquent coûte peu, le reste coûte cher. Personne n'a décidé qu'une langue coûterait plus qu'une autre : le corpus l'a produit.
Pourquoi la requête est un mauvais dénominateur
Trois raisons, dans l'ordre de gravité.
Une requête n'a pas de taille. Deux appels au même modèle peuvent différer d'un facteur 100 en tokens traités. Une question de dix mots et l'analyse d'un rapport de cent pages sont deux « requêtes ».
Le nombre de tokens par tâche augmente structurellement. Les modèles de raisonnement écrivent des brouillons et les agents renvoient tout l'historique à chaque tour. Les contextes s'allongent aussi. Un facteur calibré sur le volume moyen d'une requête de 2024 est calibré sur un objet qui n'existe plus.
L'écart va toujours dans le même sens. Les tokens par tâche montent, l'énergie par token baisse. Un facteur par requête agrège les deux mouvements et perd le seul qui soit stable.
Un facteur par token reste comparable, sous une condition
La condition est simple à énoncer et presque jamais respectée : il faut dire de quel token on parle.
| Classe de token | Ce que c'est | Coût relatif |
|---|---|---|
| Entrée fraîche | texte jamais vu par le modèle, traité en prefill | référence, 1 |
| Lecture de cache | préfixe déjà traité, réutilisé | environ 0,08 |
| Sortie | chaque token généré | environ 35 |
| Raisonnement | brouillon interne, facturé en sortie | 35, et souvent majoritaire |
Les coûts relatifs de ce tableau sont mesurés à lot unitaire. En production, à gros lot, l'écart entre entrée et sortie se resserre, et personne ne publie de valeur de référence pour ce régime.
Sur la base de sessions d'agent de code de claude-carbon, la ventilation donne un résultat contre-intuitif : la sortie représente 0,73 % du volume et 48,5 % du carbone, tandis que la lecture de cache pèse environ 90 % du volume pour 22,7 % du carbone.
Un tableau de bord qui n'a qu'un seul compteur de tokens se trompe d'un facteur 5 à 10 selon le tarif qu'il applique aux lectures de cache. L'erreur ne se voit pas tant qu'on ne ventile pas, et c'est ce qui la rend coûteuse.
Question
Une équipe consomme 1 milliard de tokens par mois. Quelle information vous manque le plus pour en tirer une empreinte ?
Choisissez une réponse pour voir l'explication.
Le token n'est pas une unité physique stable
Limite à connaître avant de bâtir dessus. Anthropic l'écrit sur sa page de tarification :
Claude 4.7 and later models and Claude Mythos Preview use a newer tokenizer that contributes to their improved performance on a wide range of tasks. This tokenizer produces approximately 30 % more tokens for the same text.
À texte constant et à prix par token constant, la facture et le compte bougent de 30 % parce que le découpage a changé. Un suivi carbone en tokens doit donc versionner le tokenizer au même titre que le modèle.
Pas une raison de revenir à la requête. Juste une raison de dater ses facteurs, comme un facteur d'émission électrique.
Ce que ça change en pratique
Pour un bilan, la donnée d'activité à réclamer n'est pas un nombre de requêtes ni un montant facturé, mais l'export d'usage en tokens ventilés, par modèle et par période. Les APIs des trois grands fournisseurs le donnent, et c'est la seule donnée qui ne se périme pas dans le temps.
Si vous ne disposez que de la facture, dites-le et bornez la portée du résultat. Les facteurs monétaires disponibles ont été construits sur des services numériques dont la structure de coût n'a rien à voir avec celle d'une API de modèle, où le prix intègre la marge, la latence contractuelle et le positionnement commercial. DONNÉE MANQUANTE sur l'ampleur du biais : aucune publication ne compare un facteur monétaire à une mesure en tokens sur le même usage. Un tel travail se fait chez un client qui dispose des deux.
Le chapitre suivant : à volume identique, le nombre de tokens dépend de la langue dans laquelle on écrit.
FAQ
Faut-il compter les requêtes ou les tokens pour mesurer l'usage de l'IA ?
Les tokens. Un modèle de langage facture, calcule et consomme par token, jamais par requête. Deux appels au même modèle peuvent différer d'un facteur 100 en tokens traités, ce qui rend un facteur d'émission par requête invérifiable et instable dans le temps.
Pourquoi un facteur d'émission par requête vieillit-il mal ?
Parce que le nombre de tokens consommés par tâche augmente structurellement, sous l'effet des modèles de raisonnement, des agents et de l'allongement des contextes, pendant que l'énergie par token baisse. Un facteur par requête agrège ces deux mouvements opposés et perd le seul qui soit stable, si bien qu'il sous-estime de plus en plus, sans signal.
Tous les tokens coûtent-ils la même chose ?
Non, et l'écart est considérable. Un token de sortie coûte environ 35 fois un token d'entrée en énergie mesurée à lot unitaire, et un token lu depuis le cache environ 0,08 fois. Sur une session agentique, la sortie représente moins de 1 % du volume mais près de la moitié du carbone. Un compteur unique se trompe d'un facteur 5 à 10.
Combien de caractères représente un token ?
Environ 4,9 caractères en anglais et 4,3 en français sur les tokenizers actuels, soit à peu près 1,23 token par mot en anglais et 1,44 en français. Ces valeurs dépendent du tokenizer employé et ne valent pas pour du code ni pour des langues à écriture non latine.
Le nombre de tokens d'un texte est-il stable dans le temps ?
Non. Anthropic indique que le tokenizer introduit à partir de Claude 4.7 produit environ 30 % de tokens en plus pour le même texte. Un suivi carbone en tokens doit donc versionner le tokenizer utilisé, exactement comme il date son facteur d'émission électrique.