Tokens LLM

Découvrez nos cas concrets et planifiez une démo gratuite avec nos experts.

Tokens et fenêtre de contexte : comprendre le coût d’un LLM

En bref : un token IA est un fragment de texte, souvent un morceau de mot, que le modèle lit ou génère. Les grands modèles de langage sont facturés au nombre de tokens en entrée et en sortie, ces derniers étant plus chers. La taille du contexte envoyé à chaque requête pèse donc directement sur le coût réel d’un usage en entreprise.

Vous êtes DAF ou DSI et vous devez valider le budget d’un assistant IA ou d’un agent. Les grilles tarifaires des fournisseurs parlent en « millions de tokens », une unité qui ne dit rien à un contrôleur de gestion. Résultat : soit le budget est surestimé et le projet bloqué, soit il est sous-estimé et la facture surprend au troisième mois.

Comprendre ce qu’est un token et comment fonctionne la fenêtre de contexte suffit pourtant à estimer un coût d’usage avec une précision raisonnable. Ce guide vous donne les notions essentielles, un exemple chiffré pas à pas et les leviers pour maîtriser la dépense.

Sommaire

  • Qu’est-ce qu’un token IA, concrètement ?
  • Comment calculer le coût mensuel d’un LLM ? Exemple chiffré
  • Qu’est-ce que la fenêtre de contexte et pourquoi coûte-t-elle cher ?
  • Pourquoi les tokens de sortie coûtent-ils plus cher ?
  • Comment réduire le coût API d’un LLM ?
  • Questions fréquentes

Qu’est-ce qu’un token IA, concrètement ?

Un grand modèle de langage (LLM) ne lit pas des mots mais des tokens. Le texte est découpé en fragments : un mot courant peut tenir en un seul token, un mot long ou rare est découpé en plusieurs morceaux, la ponctuation et les espaces comptent aussi.

En anglais, un token correspond en moyenne à environ quatre caractères, soit à peu près les trois quarts d’un mot (Source : OpenAI, documentation « What are tokens and how to count them »). Le français, avec ses accents et ses mots plus longs, consomme généralement un peu plus de tokens pour le même contenu. Chaque fournisseur utilise son propre découpage : un même texte ne donne pas exactement le même nombre de tokens d’un modèle à l’autre.

Ordre de grandeur utile pour vos estimations : une page de texte dense représente quelques centaines de tokens, un contrat de vingt pages plusieurs milliers.

Comment calculer le coût mensuel d’un LLM ? Exemple chiffré

La formule est simple : coût mensuel = nombre de requêtes × (tokens en entrée × prix entrée + tokens en sortie × prix sortie). Voici un exemple illustratif. Les prix unitaires retenus sont fictifs et arrondis pour faciliter le calcul : les tarifs réels varient fortement selon le modèle et évoluent souvent, vérifiez la grille du fournisseur le jour de votre estimation.

Paramètre Hypothèse Résultat
Utilisateurs d’un assistant interne 50 collaborateurs
Requêtes par utilisateur 20 par jour, 21 jours ouvrés 21 000 requêtes par mois
Tokens en entrée par requête 3 000 : consignes, extraits de documents, question 63 millions de tokens par mois
Tokens en sortie par requête 500 : la réponse 10,5 millions de tokens par mois
Prix illustratif en entrée 2 euros par million de tokens 126 euros
Prix illustratif en sortie 8 euros par million de tokens 84 euros
Coût mensuel du modèle 210 euros

Faites maintenant passer le contexte de 3 000 à 10 000 tokens par requête, par exemple parce que l’assistant injecte des documents entiers au lieu d’extraits pertinents. L’entrée grimpe à 210 millions de tokens, soit 420 euros, et la facture totale passe à 504 euros par mois, plus du double, pour un service identique aux yeux de l’utilisateur.

Ce montant ne couvre que la consommation du modèle. Le coût complet d’un projet inclut aussi le développement, l’hébergement, la base documentaire, la supervision et la maintenance : notre analyse du coût d’un agent IA en entreprise détaille ces postes.

Qu’est-ce que la fenêtre de contexte et pourquoi coûte-t-elle cher ?

La fenêtre de contexte est la quantité maximale de tokens qu’un modèle peut traiter en une seule requête, entrée et sortie comprises. Selon les modèles, elle va de quelques dizaines de milliers à plus d’un million de tokens.

Une grande fenêtre est pratique : elle permet d’analyser un long rapport ou de garder tout l’historique d’une conversation. Mais elle crée un piège budgétaire. Un modèle ne se souvient de rien entre deux appels : dans une conversation, l’historique complet est renvoyé à chaque nouveau message. Au dixième échange, vous payez à nouveau la lecture des neuf précédents.

Trois sources gonflent le contexte sans que l’utilisateur le voie :

  • Le prompt système : consignes, règles métier, exemples, renvoyés à chaque requête.
  • Les documents récupérés par un moteur de recherche documentaire, parfois trop nombreux ou trop longs.
  • Les résultats d’outils pour un agent : réponses d’API, contenus de fichiers, pages web.

Au-delà du coût, un contexte surchargé peut aussi dégrader la qualité des réponses : le modèle a plus de mal à repérer l’information utile noyée dans un long texte.

Pourquoi les tokens de sortie coûtent-ils plus cher ?

Chez la plupart des fournisseurs, le prix d’un token généré est plusieurs fois supérieur à celui d’un token lu. La raison est technique : le modèle lit l’entrée en une passe, mais il produit la réponse token par token, chacun nécessitant un nouveau calcul.

Conséquence pratique : un usage qui génère beaucoup de texte, comme la rédaction de rapports ou la traduction, coûte proportionnellement plus qu’un usage qui lit beaucoup et répond court, comme la classification de courriers ou l’extraction de champs. Les modèles dits « de raisonnement » ajoutent une étape de réflexion interne, généralement facturée comme de la sortie, qui peut multiplier la consommation.

Comment réduire le coût API d’un LLM ?

Plusieurs leviers permettent de diviser la facture sans dégrader le service :

  • Choisir le bon modèle pour chaque tâche : un petit modèle suffit souvent pour classer, extraire ou résumer ; le modèle le plus puissant est réservé aux cas complexes.
  • Optimiser la recherche documentaire : envoyer trois extraits pertinents plutôt que dix documents entiers.
  • Utiliser la mise en cache du prompt, proposée par plusieurs fournisseurs, qui facture moins cher les parties répétées d’une requête à l’autre.
  • Résumer l’historique des longues conversations au lieu de le renvoyer en entier.
  • Limiter la longueur des réponses par consigne et par paramètre.
  • Traiter en lot les tâches non urgentes, souvent facturées à tarif réduit par les fournisseurs qui proposent ce mode.
  • Mesurer en continu : coût par requête, par utilisateur et par cas d’usage, avec des alertes de dépassement.

Pour des volumes élevés et stables, l’hébergement d’un modèle open source sur une infrastructure dédiée peut aussi devenir pertinent, avec un coût fixe plutôt qu’au token. L’arbitrage dépend du volume, des exigences de souveraineté et des compétences disponibles.

Notre approche chez Euro Tech Conseil

Dès le cadrage, nous estimons le coût d’usage à partir de vos volumes réels et de plusieurs scénarios de modèles. Le POC de 6 à 10 semaines mesure la consommation effective par requête, ce qui fiabilise le budget avant l’industrialisation. L’intégration au SI s’accompagne d’une supervision des coûts, d’un contrôle humain sur les usages sensibles et, lorsque vos données l’exigent, d’options d’hébergement souverain. Découvrez notre offre d’intégration de l’IA générative en entreprise.

Questions fréquentes

Combien de tokens contient une page de texte ?
Quelques centaines en général, selon la densité et la langue. Les fournisseurs proposent des outils de comptage pour mesurer précisément vos propres documents.

Le prix par token est-il le même pour tous les modèles ?
Non, il varie fortement d’un modèle à l’autre, parfois d’un facteur supérieur à dix entre un petit modèle et un modèle haut de gamme du même fournisseur.

Un abonnement par utilisateur est-il plus avantageux que l’API ?
Pour un usage bureautique individuel, l’abonnement offre un coût prévisible. Pour une application intégrée à vos processus, l’API facturée au token est la norme et se pilote par l’optimisation du contexte.

Une grande fenêtre de contexte remplace-t-elle une base documentaire ?
Rarement. Envoyer tous vos documents à chaque requête est coûteux et moins précis. Une recherche ciblée des passages pertinents reste plus efficace.

Comment budgéter un projet si les prix changent ?
Construisez le budget en tokens consommés, puis appliquez la grille en vigueur avec une marge. Revoyez l’estimation à chaque changement de modèle ou de tarif.

Combien coûtera vraiment votre usage de l’IA ?

Nous estimons votre consommation de tokens à partir de vos volumes réels et identifions les leviers pour maîtriser la facture.

Recevez notre newsletter et ne manquez jamais nos conseils !