Wir haben ein Dashboard gebaut, um LLM-Kosten zu bändigen — und es hat verändert, wie wir üben

In jeder Yogastunde gibt es diesen Moment, in dem eine Schülerin oder ein Schüler aufhört, eine Pose erzwingen zu wollen, und einfach wahrnimmt, was der Körper gerade tut. Die Hüfte ist verspannt. Der Atem ist flach. Die Schulter kompensiert. Dieser Moment des Bewusstseins — urteilsfrei, präzise — ist der Punkt, an dem Veränderung beginnt. Nicht im Erzwingen. Im Wahrnehmen.

Wir haben das AI Model Pricing Dashboard aus genau demselben Grund gebaut. Nicht, weil wir mehr für Large Language Models ausgeben wollten, sondern weil wir Ihnen — ehrlich, präzise — nicht sagen konnten, was wir bereits ausgeben. Niemand im Team wusste es. Die Rechnungen kamen an, und niemand konnte die einfache Frage beantworten: Welche Modelle nutzen wir tatsächlich, und zu welchen Kosten pro Anbieter?

Das Chaos unter der Haube

Wenn Sie KI-Workloads über mehrere Anbieter hinweg betreiben, kennen Sie das Problem. OpenRouter berechnet pro Token zu einem Preis. OpenAI trennt Eingabe- und Ausgabe-Tokens mit unterschiedlichen Preisen. Anthropic hat seine eigene Struktur. Kilo AI Gateway ergänzt Abrechnungspläne mit Overage-Berechnung. Jeder Anbieter zählt Tokens anders. Jeder Anbieter ändert sein Preisblatt ohne Release-Note.

Es ist ein bisschen so, als würde man versuchen, Yoga zu üben, indem man fünf verschiedene Bücher in fünf verschiedenen Sprachen liest, die sich alle nicht darüber einig sind, was „Downward Dog“ bedeutet. Man kann sich irgendwie durchschlagen. Aber man wird kompensieren. Und Kompensation hat ihren Preis — in Geld auf der Infrastrukturseite, in Ausrichtung auf der Matte.

Was das Dashboard macht

Das AI Model Pricing Dashboard ist ein Open-Source-Tool — BSD 3-Clause, MIT-freundlich — mit einem FastAPI-Backend und einem Next.js-Frontend. Es aggregiert Preise von über 10 LLM-Anbietern, normalisiert alles auf Dollar pro eine Million Tokens und bietet eine einzige filterbare, sortierbare Tabelle, die Vergleiche mühelos macht.

Aber der eigentliche Wert ist nicht die Tabelle. Der eigentliche Wert ist, was die Tabelle offenlegt:

• Eingabe- vs. Ausgabe-Token-Berechnung. Die meisten Teams denken in „Kosten pro Aufruf“. Doch die moderne LLM-Nutzung wird von Ausgabe-Tokens dominiert — also den Antworten des Modells. Ein Modell, das 2 $ pro eine Million Eingabe-Tokens und 15 $ pro eine Million Ausgabe-Tokens berechnet, hat ein völlig anderes Kostenprofil als eines, das jeweils 5 $ und 6 $ verlangt. Das Dashboard macht das sofort sichtbar.

• Kontextfenster-Kontext. Ein Modell mit einem 128K-Kontextfenster scheint pro Token vielleicht teurer als eines mit einem 4K-Fenster. Wenn Sie aber derzeit mehrere Aufrufe an ein günstigeres Modell verketten müssen, um lange Prompts zu verarbeiten, ist das teurere Modell mit dem großen Kontextfenster tatsächlich günstiger — und liefert bessere Ergebnisse.

• Trend-Tracking. Preise ändern sich. Das Dashboard speichert die 30-Tage-Preishistorie. Das bedeutet, dass Sie Preisbewegungen der Anbieter sehen, bevor sie auf Ihrer nächsten Rechnung auftauchen.

• Kilo-Plan-Projektion. Wenn Sie Kilo AI Gateway nutzen, ordnet das Dashboard die tatsächliche Nutzung den einzelnen Tarifen zu und zeigt Ihnen, welcher Plan Ihre Gesamtkosten einschließlich Überziehungsgebühren minimiert.

Die Architektur darunter

Das System läuft auf Postgres und Redis, mit Kubernetes-Manifests für den Produktivbetrieb. Das FastAPI-Backend übernimmt die Preisaggregation mit einem 900-Sekunden-Redis-Cache — schnell genug für die Echtzeit-Nutzung des Dashboards, schonend genug für die APIs der Anbieter. CronJobs aktualisieren die Preise alle 15 Minuten und versenden tägliche E-Mail-Berichte um 9 AM UTC.

Für die lokale Entwicklung startet der gesamte Stack mit docker-compose.yaml — Postgres, Redis, die API und das Next.js-Frontend — in unter zwei Minuten.

Wir haben uns für Kubernetes entschieden, nicht weil das Dashboard massive Skalierung braucht, sondern weil das Bereitstellungsmuster langweilig sein sollte. Traefik für Ingress, cert-manager für TLS, horizontales Pod-Autoscaling für die API- und Web-Replikas. Langweilig ist zuverlässig. Zuverlässig ist genau das, was Sie wollen, wenn dieses Tool Budgetentscheidungen beeinflusst.

Wo Yoga auf das Dashboard trifft

Hier ist der Teil, den Ihnen kein Architektur-Blog erzählt: Kostenoptimierung und Yoga teilen sich denselben ersten Schritt.

Im Yoga sagen wir: Bewusstsein geht der Veränderung voraus. Sie können eine falsch ausgerichtete Hüfte nicht korrigieren, wenn Sie nicht wissen, dass sie falsch ausgerichtet ist. Sie können einen chronisch angespannten Kiefer nicht weicher werden lassen, wenn Sie nie bemerkt haben, dass er verspannt war. Das Wahrnehmen ist die Praxis. Das Wahrnehmen ist der Punkt, an dem Handlungsfähigkeit beginnt.

Das Dashboard existiert, weil wir hingesehen haben. Zum ersten Mal hatten wir ein präzises, ehrliches Bild davon, was unsere KI-Workloads tatsächlich kosten — keine Schätzung, kein vages Gefühl, dass „es teuer scheint“, sondern eine Zahl. Und sobald Sie eine Zahl haben, können Sie eine Entscheidung treffen. Wechseln wir für diesen Workload den Anbieter? Verwenden wir für nicht kritische Aufgaben ein günstigeres Modell? Cachen wir aggressiver? Wählen wir das Modell mit dem größeren Kontextfenster und beseitigen die Ketten von Aufrufen?

Keine dieser Entscheidungen war vorher sichtbar. Nicht, weil es die Daten nicht gab, sondern weil sie über fünf Anbieter-Dashboards, drei Abrechnungsseiten und eine Tabelle verstreut waren, die niemand gepflegt hat.

Wir haben den Scraper gebaut. Wir haben den Normalizer gebaut. Wir haben das Dashboard gebaut. Und in der ersten Woche, in der wir es genutzt haben, fanden wir eine Ineffizienz von 40 $/Monat, die bereits seit vier Monaten lief. Das sind 160 $, die wir ausgegeben haben, weil wir nicht hingeschaut haben. Das Dashboard kostete weniger als einen Abend, um es einzurichten.

Was wir aus den Daten lernen

Seit der Einführung des Dashboards haben sich drei Dinge in unserer Arbeitsweise verändert:

Rightsizing nach Aufgabe. Wir weisen nun spezifischen Modellen bestimmte Aufgaben zu, basierend auf den tatsächlichen Kosten pro Aufgabe, nicht auf Markenpräferenz. Aufgaben mit hoher Wiederholung und geringer Komplexität gehen an günstigere, schnellere Modelle. Komplexe Denkaufgaben gehen dorthin, wo die Qualität den Preis rechtfertigt. Das ist keine neue Idee — es ist dasselbe Prinzip wie die Wahl zwischen einer regenerativen Praxis und einem Power Flow, basierend darauf, was Ihr Körper an diesem Tag tatsächlich braucht.

Caching als Pranayama. Im Yoga ist Pranayama (Atemkontrolle) die Praxis, jeden Atemzug bewusst einzusetzen — weniger Volumen, mehr Intention, besserer Sauerstoffaustausch. Das Caching von LLM-Antworten ist dasselbe Konzept. Wenn derselbe Prompt dieselbe Ausgabe erzeugt, speichern Sie sie. Sie bezahlen die gleiche Berechnung nicht zweimal. Der Redis-Cache des Dashboards mit einer TTL von 900 Sekunden hat unsere Ausgaben für wiederholte Tokens um etwa 30% reduziert. Weniger atmen, mehr bekommen.

Trend-Bewusstsein. Wenn wir die Preisentwicklung über 30 Tage verfolgen, sehen wir Preissenkungen der Anbieter, bevor wir Blogbeiträge darüber lesen. Wenn ein Anbieter seinen Tarif um 20% senkt, wissen wir das innerhalb einer Stunde. Wenn ein Anbieter die Preise erhöht, können wir vor dem nächsten Abrechnungszyklus neu bewerten. Bewusstsein. Handlungsfähigkeit. Entscheidung.

Open Source, weil das Horten von Werkzeugen schlechtes Yoga ist

Das Projekt steht auf GitHub unter MIT-Lizenz: github.com/andreab67/ai-models-pricing. Die Kubernetes-Manifests sind enthalten. Die API-Dokumentation steht in FUNCTIONAL.md. Die SBOM — jede Abhängigkeit, ihre Lizenz, ihre Sicherheitshinweise — steht in SBOM.md.

Wir haben dieses Projekt open-sourced, weil das Problem nicht nur unseres ist. Jedes Team, das KI-Workloads über mehrere Anbieter hinweg betreibt, hat dieses Problem. Und nützliche Werkzeuge zu horten ist, um eine Yoga-Analogie zu verwenden, so, als würde man sich weigern, einer Schülerin oder einem Schüler eine Pose zu zeigen, die helfen würde. Die Praxis wird durch Teilen nicht geschmälert. Sie wird vertieft.

Eine Maßnahme für diese Woche

Wenn Ihr Team LLM-Workloads betreibt und Sie nicht sofort beantworten können: „Was geben wir pro Anbieter und Aufgabe aus?“ — dann kompensieren Sie. Nicht schlecht. Nur teuer.

Richten Sie das Dashboard lokal ein. Mit Docker dauert es zwei Minuten. Starten Sie es. Schauen Sie sich die Zahlen an. Lassen Sie die Zahlen Ihnen etwas sagen, das Sie nicht bemerkt haben.

Dann entscheiden Sie.

Das ist dieselbe Praxis, die wir auf der Matte üben: ankommen, wahrnehmen, wählen. Die Werkzeuge ändern sich. Das Prinzip nicht.

Das AI Model Pricing Dashboard ist Open Source unter github.com/andreab67/ai-models-pricing. Die Produktionsinstanz läuft in unserem Kubernetes-Cluster. Wenn Sie Hilfe beim Bereitstellen oder bei der Integration in Ihre eigene Kostenwarnungs-Pipeline möchten, melden Sie sich.