Nous avons créé un tableau de bord pour dompter les coûts des LLM — et cela a changé notre façon de pratiquer

Il y a un moment dans chaque cours de yoga où un élève cesse d’essayer de forcer une posture et se contente de remarquer ce que fait le corps. La hanche est raide. La respiration est superficielle. L’épaule compense. Cet instant de conscience — sans jugement, précis — est là où le changement commence. Pas dans l’effort forcé. Dans l’observation.

Nous avons créé le AI Model Pricing Dashboard exactement pour la même raison. Non pas parce que nous voulions dépenser davantage pour des Large Language Models, mais parce que nous ne pouvions pas vous dire — honnêtement, précisément — combien nous dépensions déjà. Personne dans l’équipe ne le savait. Les factures arrivaient, et personne ne pouvait répondre à la simple question : quels modèles utilisons-nous réellement, et à quel coût par fournisseur ?

Le chaos sous le capot

Si vous avez déjà exécuté des charges de travail IA chez plusieurs fournisseurs, vous connaissez la douleur. OpenRouter facture au jeton avec un tarif. OpenAI sépare les jetons d’entrée et de sortie avec des prix différents. Anthropic a sa propre structure. Kilo AI Gateway superpose des forfaits d’abonnement avec un calcul des dépassements. Chaque fournisseur compte les jetons différemment. Chaque fournisseur modifie sa grille tarifaire sans note de version.

C’est un peu comme essayer de pratiquer le yoga en lisant cinq livres différents dans cinq langues différentes, dont aucun ne s’accorde sur la signification de « Downward Dog ». On peut s’en sortir tant bien que mal. Mais on compensera. Et la compensation a un coût — payé en argent côté infrastructure, payé en alignement sur le tapis.

Ce que fait le tableau de bord

L’AI Model Pricing Dashboard est un outil open source — BSD 3-Clause, compatible MIT — construit avec un backend FastAPI et un frontend Next.js. Il agrège les tarifs de plus de 10 fournisseurs de LLM, normalise tout en dollars par million de jetons, et vous offre un tableau unique, filtrable et triable qui rend la comparaison sans effort.

Mais la vraie valeur n’est pas le tableau. La vraie valeur est ce que le tableau révèle :

• Calcul des jetons d’entrée et de sortie. La plupart des équipes pensent en termes de « coût par appel ». Mais l’usage moderne des LLM est dominé par les jetons de sortie — les réponses du modèle. Un modèle qui facture 2 $ par million de jetons d’entrée mais 15 $ par million de jetons de sortie a un profil de coûts complètement différent de celui qui facture respectivement 5 $ et 6 $. Le tableau de bord rend cela visible instantanément.

• Contexte de la fenêtre de contexte. Un modèle avec une fenêtre de contexte de 128K peut sembler plus cher par jeton qu’un modèle avec une fenêtre de 4K. Mais si vous enchaînez actuellement plusieurs appels à un modèle moins cher pour gérer de longues invites, le modèle plus coûteux avec une grande fenêtre de contexte est en réalité moins cher — et produit de meilleurs résultats.

• Suivi des tendances. Les tarifs changent. Le tableau de bord conserve l’historique des prix sur 30 jours. Cela signifie que vous voyez les mouvements de prix des fournisseurs avant qu’ils n’apparaissent sur votre prochaine facture.

• Projection des forfaits Kilo. Si vous utilisez Kilo AI Gateway, le tableau de bord compare l’usage réel à chaque palier et vous indique quel forfait minimise votre coût total, dépassements compris.

L’architecture en dessous

Le système fonctionne avec Postgres et Redis, avec des manifests Kubernetes pour le déploiement en production. Le backend FastAPI gère l’agrégation des prix avec un cache Redis de 900 secondes — assez rapide pour une utilisation en temps réel du tableau de bord, assez doux pour les API des fournisseurs. Des CronJobs actualisent les tarifs toutes les 15 minutes et envoient des rapports e-mail quotidiens à 9 AM UTC.

Pour le développement local, toute la pile démarre avec docker-compose.yaml — Postgres, Redis, l’API et le frontend Next.js — en moins de deux minutes.

Nous avons choisi Kubernetes non pas parce que le tableau de bord nécessite une énorme échelle, mais parce que le modèle de déploiement doit être ennuyeux. Traefik pour l’ingress, cert-manager pour TLS, autoscaling horizontal des pods pour les réplicas de l’API et du web. L’ennuyeux est fiable. La fiabilité est ce que vous voulez lorsque cet outil alimente des décisions budgétaires.

Là où le yoga rencontre le tableau de bord

Voici la partie que aucun blog d’architecture ne vous dira : l’optimisation des coûts et le yoga partagent la même première étape.

En yoga, nous disons la conscience précède le changement. Vous ne pouvez pas corriger une hanche mal alignée si vous ne savez pas qu’elle l’est. Vous ne pouvez pas assouplir une mâchoire chroniquement crispée si vous n’avez jamais remarqué qu’elle était tendue. Le fait de remarquer, c’est la pratique. Le fait de remarquer, c’est là que l’agentivité commence.

Le tableau de bord existe parce que nous avons remarqué. Pour la première fois, nous avions une image précise et honnête du coût réel de nos charges de travail IA — pas une estimation, pas une vague impression que « cela semble cher », mais un chiffre. Et une fois que vous avez un chiffre, vous pouvez prendre une décision. Changeons-nous de fournisseur pour cette charge ? Utilisons-nous un modèle moins cher pour les tâches non critiques ? Faut-il mettre davantage en cache ? Choisissons-nous le modèle avec une fenêtre de contexte plus large et éliminons-nous l’enchaînement d’appels ?

Aucune de ces décisions n’était visible auparavant. Non pas parce que les données n’existaient pas, mais parce qu’elles étaient dispersées sur cinq tableaux de bord de fournisseurs, trois pages de facturation et une feuille de calcul que personne ne mettait à jour.

Nous avons construit le scraper. Nous avons construit le normalisateur. Nous avons construit le tableau de bord. Et la première semaine où nous l’avons utilisé, nous avons trouvé une inefficacité de 40 $/mois qui courait depuis quatre mois. C’est 160 $ dépensés parce que nous ne regardions pas. Le tableau de bord a coûté moins qu’une soirée à mettre en place.

Ce que nous apprenons des données

Depuis le déploiement du tableau de bord, trois choses ont changé dans notre façon de fonctionner :

Adapter les ressources à la tâche. Nous attribuons désormais des modèles spécifiques à des tâches spécifiques en fonction du coût réel par tâche, et non de la préférence de marque. Les tâches à forte répétition et faible complexité vont vers des modèles moins chers et plus rapides. Les tâches de raisonnement complexes vont là où la qualité justifie le prix. Ce n’est pas une idée nouvelle — c’est le même principe que de choisir une pratique restaurative plutôt qu’un power flow en fonction de ce dont votre corps a réellement besoin ce jour-là.

Le caching comme pranayama. En yoga, le pranayama (contrôle du souffle) est la pratique qui consiste à faire compter chaque respiration — moins de volume, plus d’intention, un meilleur échange d’oxygène. Mettre en cache les réponses des LLM, c’est le même concept. Si la même invite produit la même sortie, vous la stockez. Vous ne payez pas deux fois pour le même calcul. Le cache Redis du tableau de bord avec un TTL de 900 secondes a réduit nos dépenses de jetons répétés d’environ 30 %. Respirer moins, obtenir plus.

Conscience des tendances. Le suivi des tendances de tarification sur 30 jours signifie que nous voyons les baisses de prix des fournisseurs avant de voir des articles de blog à leur sujet. Lorsqu’un fournisseur baisse son tarif de 20 %, nous le savons dans l’heure. Lorsqu’un fournisseur augmente ses prix, nous pouvons réévaluer avant le cycle de facturation suivant. Conscience. Agentivité. Décision.

Open source, parce qu’accumuler des outils n’est pas un bon yoga

Le projet est sous licence MIT sur GitHub : github.com/andreab67/ai-models-pricing. Les manifests Kubernetes sont inclus. La documentation de l’API se trouve dans FUNCTIONAL.md. Le SBOM — chaque dépendance, sa licence, ses notes de sécurité — se trouve dans SBOM.md.

Nous avons ouvert le code source parce que le problème n’est pas le nôtre seul. Chaque équipe qui exécute des charges de travail IA multi-fournisseurs rencontre ce problème. Et garder pour soi des outils utiles est, pour reprendre une analogie du yoga, comme refuser d’enseigner à un élève une posture qui l’aiderait. La pratique n’est pas diminuée par le partage. Elle s’approfondit.

Un seul geste pour cette semaine

Si votre équipe exécute des charges de travail LLM et que vous ne pouvez pas répondre immédiatement à « combien dépensons-nous par fournisseur et par tâche » — vous compensez. Pas mal. Juste cher.

Installez le tableau de bord en local. Cela prend deux minutes avec Docker. Exécutez-le. Regardez les chiffres. Laissez les chiffres vous montrer quelque chose que vous n’aviez pas remarqué.

Puis décidez.

C’est la même pratique que nous faisons sur le tapis : arriver, remarquer, choisir. Les outils changent. Le principe, non.

L’AI Model Pricing Dashboard est open source sur github.com/andreab67/ai-models-pricing. L’instance de production s’exécute sur notre cluster Kubernetes. Si vous souhaitez de l’aide pour le déployer ou l’intégrer à votre propre pipeline d’alertes de coûts, contactez-nous.