Unsere letzte monatliche Rechnung von einem gehosteten Modellanbieter belief sich auf $4,200, und fast die Hälfte davon waren Ausgaben, die wir keinem Kundenergebnis zuordnen konnten. Genau diese einzelne Position brachte uns dazu, neu aufzubauen, wie unsere internen Agenten denken, weiterleiten und für Intelligenz bezahlen. Drei Monate später arbeiten wir schlanker, schneller und günstiger — und der Fahrplan ist einfacher, als es der Konferenzzirkus klingen lässt.
Der erste Schritt war anzuerkennen, dass nicht jede Aufgabe ein Frontier-Modell verdient. Ein einfaches lokales Modell für einfache Klassifikation, Formatierung und Schema-Checks einzusetzen, deckte den Großteil unseres Volumens ab, ohne dort an Genauigkeit zu verlieren, wo es darauf ankam. Die teuren gehosteten Aufrufe behielten wir für wirklich schwierige Denkaufgaben zurück — strategische Einordnung, nuancierte Synthese und Grenzfälle. Das Prinzip ist unspektakulär, aber wirkungsvoll: Die Kosten des Aufrufs sollten dem Wert der Antwort entsprechen.
Der zweite Schritt war, Agent-Skills als Code zu behandeln, nicht als Chat. Jeder Skill ist eine kleine, testbare Funktion mit klar definierten Eingaben und Ausgaben. Wenn ein Skill sauber definiert ist, kann ein winziges lokales Modell ihn zuverlässig ausführen, und wir können das Ergebnis cachen. Über eine Woche hinweg sind es genau diese gecachten und lokal bereitgestellten Aufrufe, bei denen sich die Einsparungen summieren. Das gehostete Modell wird zum Fallback, nicht zum Standard.
Drittens haben wir Tokens wie ein Budget gemessen, nicht wie eine Eitelkeitsmetrik. Wir verfolgten die Kosten pro gelöster Aufgabe über jeden Workflow hinweg und weigerten uns, irgendetwas auszuliefern, das nicht besser als eine Baseline war. Das zwang zu ehrlichen Gesprächen darüber, welche Prompts tatsächlich ihren Beitrag leisteten und welche Premiumpreise für Füllmaterial zahlten. Erstaunlich viel „Intelligenz“ in unserer Pipeline war wiederholtes Standard-Geblubber, das ein Modell mit 7B Parametern problemlos verarbeitet.
Viertens gaben wir jedem Agenten die Möglichkeit, bewusst zu eskalieren. Local-first mit einem klar dokumentierten Weg zu einem stärkeren Modell, wenn das Vertrauen niedrig ist. Das Team vertraut dem System, weil der Ausweichweg real ist, und das Budget vertraut dem System, weil die meisten Aufrufe ihn nie erreichen.
Schließlich hörten wir auf, für die Demo zu optimieren, und begannen, für den Dienstag um 2pm zu optimieren. Echte Workflows, echte Latenzbudgets, echte Kostengrenzen. Genau dort verdienen lokale Modelle und diszipliniertes Skill-Design ihr Geld.
Wenn Sie auf ein Nutzungs-Dashboard starren, das sich nicht mit dem Wert deckt, den Ihr Team ausliefert, liegt der Weg nach vorn nicht in einer weiteren Vertragsverhandlung. Beginnen Sie damit, Ihre aufkommensstärksten Aufrufe zu kartieren, leiten Sie die einfachen lokal weiter, formalisieren Sie den Rest als wiederverwendbare Skills, und setzen Sie für jeden Workflow eine echte Kosten-pro-Aufgabe-Zahl an. Die 90%ige Reduzierung ist kein Marketingversprechen — sie ergibt sich, wenn Sie aufhören, Routinearbeiten zu Frontier-Preisen zu bezahlen.
Möchten Sie eine erste Audit-Checkliste, die wir verwenden, um die einfachen Erfolge zu finden, bevor wir uns an Infrastruktur binden? Abonnieren Sie, und wir senden Ihnen am Freitag das einseitige Arbeitsblatt.