Parcours · 9 chapitres sur 17 · 1 h 57
Comprendre la mécanique
Avant de chiffrer, savoir ce qui consomme. Et pourquoi.
Lisez-les dans cet ordre. Les numéros sont ceux du cours complet : ce parcours en saute 8, qui ne servent pas cette question.
- 01Que se passe-t-il quand vous envoyez une requête à une IA ?Votre phrase est découpée, vectorisée, puis réécrite un mot à la fois. Ces six mécanismes expliquent tout le reste du cours.Commencez ici · 19 min de lecture
- 02Pourquoi compter en tokens plutôt qu'en requêtes ?Le token est la seule unité que partagent le calcul, la facture et le carbone. Un facteur par requête, lui, devient faux avec le temps.9 min de lecture
- 03Le français coûte-t-il plus cher que l'anglais ?On a mesuré 27 langues pour ce cours. Le surcoût du français est réel, celui du birman devient un problème d'équité.10 min de lecture
- 04Pourquoi un token de sortie coûte-t-il 35 fois un token d'entrée ?Une inférence a deux régimes physiques distincts. Le prix les confond et sous-estime la sortie d'un facteur 7.12 min de lecture
- 05Pourquoi le contexte long coûte-t-il si cher ?L'attention quadratique ne bascule que très tard. Le vrai mur, c'est le cache KV, qui effondre le nombre de requêtes traitées ensemble.11 min de lecture · technique
- 06Pourquoi le nombre de paramètres ne dit plus le coût ?Un token ne traverse plus que 3 % des paramètres annoncés. Le MoE calcule moins, mais il faut acheter la mémoire quand même.12 min de lecture · technique
- 07Entraînement ou inférence : qui pèse le plus ?Il faut entre 861 millions et 276 milliards de requêtes pour que l'inférence rattrape l'entraînement. Tout dépend du remplissage des serveurs.17 min de lecture · technique
- 08Combien consomme le mode raisonnement d'un LLM ?Six mesures, six périmètres différents. Et le réglage qui coupe le surcoût quand la tâche ne le justifie pas.13 min de lecture
- 09Pourquoi un agent consomme-t-il jusqu'à 1000 fois une requête ?Une conversation d'agent coûte le carré du nombre de tours. Le cache de prompt en corrige une partie, pas tout.14 min de lecture