Pourquoi votre facture d'IA augmente : le coût caché du contexte

73 % des entreprises constatent que leurs dépenses d'intelligence artificielle dépassent déjà le budget prévu, selon l'étude 2026 de la FinOps Foundation. Devant un tel dérapage, le réflexe habituel consiste à examiner les machines : la puissance de calcul, le tarif des modèles. Ce poste apparaît clairement sur la facture, il attire donc toute l'attention. Le vrai levier d'économie se trouve pourtant en amont, dans une zone que peu d'entreprises surveillent : tout ce qu'on fait lire au modèle avant qu'il ne réponde.

Comment une facture d'IA se calcule réellement

Un modèle d'intelligence artificielle facture au volume de texte traité. L'unité s'appelle le token : en français, comptez à peu près un mot court par token. Chaque requête coûte deux choses, les tokens lus en entrée et les tokens produits en sortie.

La sortie reste courte, quelques paragraphes le plus souvent. L'entrée, elle, peut être énorme. Un historique de conversation complet, deux versions du même document, un tableau exporté tel quel : tout part dans la requête, et tout est facturé. Dans la plupart des usages professionnels, l'entrée pèse dix à cent fois plus lourd que la sortie.

Le point à retenir : le modèle ne trie pas. Il ne sait pas sauter les passages inutiles pour aller droit à l'information qui compte. Il lit tout, doublons compris. Chaque page se paie, qu'elle serve ou non à la réponse.

Une habitude héritée des bases de données

Pourquoi tant d'entreprises envoient-elles trop de données à leurs modèles ? Par habitude, surtout. En informatique classique, accumuler coûte peu. On stocke tout ce qui pourrait servir un jour et, au moment de chercher, une requête bien écrite va directement aux lignes utiles. Le tri se fait à la lecture, quasiment gratuitement.

Avec un modèle d'IA, cette logique se retourne. Ce qui entre dans la requête est lu mot à mot, à chaque appel. Une donnée inutile stockée dans une base coûte une fraction de centime, une seule fois. La même donnée collée dans une requête exécutée deux mille fois par jour coûte tous les jours, indéfiniment.

L'image du déménagement aide à visualiser le problème. Facturé au carton, on trie avant de charger le camion. Beaucoup d'entreprises emportent la cave et le grenier à chaque trajet, puis s'étonnent du prix.

Un exemple chiffré : l'assistant qui lisait tout

Prenons un cas courant : un assistant interne qui répond aux questions des équipes en s'appuyant sur l'historique des demandes clients.

Sans tri, chaque question envoie au modèle le dossier complet, soit environ 40 000 tokens, dont 4 000 réellement utiles pour répondre. À 1 500 requêtes par jour et un tarif d'environ 2,50 € par million de tokens lus (l'ordre de grandeur des modèles du marché), le calcul donne 60 millions de tokens par jour. Soit 150 € par jour, environ 4 500 € par mois, uniquement pour la lecture.

Avec un filtre en amont qui ne transmet que les 4 000 tokens pertinents (le dossier en cours et la fiche produit concernée, par exemple), la lecture tombe à 15 € par jour, soit 450 € par mois. Neuf dixièmes de la dépense disparaissent, sans changer de modèle ni toucher aux serveurs.

Ces chiffres sont illustratifs, chaque situation varie. Le rapport de un à dix entre contexte brut et contexte trié, lui, se retrouve très souvent lors des audits. Et le tri apporte un second bénéfice, moins attendu : les réponses s'améliorent. Les modèles se perdent dans les contextes très longs. Une information noyée au milieu de 40 000 tokens a plus de chances d'être ignorée ou déformée qu'une information posée seule sur la table. Moins de bruit en entrée, moins d'erreurs en sortie.

Trier avant d'envoyer : la méthode pas à pas

Réduire ce gaspillage ne demande pas de reconstruire son système. Quatre étapes couvrent l'essentiel.

1. Mesurer ce qui part. Journalisez vos requêtes pendant une semaine et regardez la taille moyenne du contexte envoyé. La plupart des équipes découvrent à cette étape des historiques entiers ou des fichiers joints dont personne ne se souvenait.

2. Supprimer les doublons et le périmé. Un document présent en trois versions, une procédure remplacée depuis deux ans : autant de tokens payés pour rien. Ne gardez que ce qui est à jour et vérifié.

3. Résumer plutôt que coller. Un historique de six mois peut se remplacer par un résumé de quinze lignes, mis à jour au fil des échanges. Le modèle y trouve le contexte dont il a besoin, sans relire chaque message depuis le début.

4. Filtrer au fil de l'eau. Pour les gros volumes, des outils de traitement en continu comme Apache Flink nettoient les données pendant qu'elles circulent : seules les informations à forte valeur atteignent le modèle, le reste part vers un stockage bon marché. Ce filtrage règle au passage un problème de fraîcheur, puisque les données arrivent au modèle au moment où elles sont encore d'actualité.

Les pièges qui guettent

Le premier piège consiste à couper trop large. Un modèle privé d'une information nécessaire ne s'arrête pas : il improvise, et une réponse inventée coûte plus cher qu'un contexte un peu long. Avant de déployer un filtre, constituez un jeu de questions types et comparez les réponses avant et après. Si la qualité baisse, le filtre retire trop.

Deuxième piège : filtrer une fois, puis oublier. Les données bougent, les usages aussi. Un tri fait en janvier laisse passer en juin des documents périmés. Prévoyez un contrôle régulier, une fois par trimestre suffit dans la plupart des cas.

Troisième piège, plus sournois : le format qui change sans prévenir. Quand un champ est renommé ou déplacé à la source, tout ce qui dépend de ce flux se dérègle d'un coup. Un humain devant un tableau de bord remarque une colonne vide. Un système automatisé, lui, agit sur ce qu'il reçoit, sans intuition : une donnée fausse en amont devient une décision fausse en aval. La parade existe. Elle consiste à valider chaque donnée contre un format de référence avant qu'elle n'entre dans le circuit, et à rejeter ce qui ne correspond pas. Les équipes techniques parlent de contrat de données. L'idée tient en une phrase : le format promis est vérifié à l'entrée, pas découvert à la sortie.

Par où commencer

Une question simple suffit pour lancer le chantier : que lisent vos modèles, concrètement, à chaque requête ? La réponse tient rarement en une ligne, et c'est précisément là que dort l'économie. Les serveurs, eux, peuvent attendre.

Chez Autensai, nous aidons les entreprises à auditer ce que leurs outils d'intelligence artificielle lisent et paient réellement. Si votre facture a dépassé le budget prévu cette année, le sujet mérite trente minutes de conversation : prendre rendez-vous.