Eine monatliche Cloud-Rechnung von 400 $ für das, was im Wesentlichen ein persönlicher Chatbot ist, wirkte lange einigermaßen vernünftig. Dann stellt man fest, dass dieselbe Arbeitslast auf einer gebrauchten Grafikkarte läuft, die man bereits besitzt, auf Hardware, die wenige Cent Strom pro Tag kostet. Der lokale KI-Kostenstapel ist nicht mehr theoretisch. Er ist ein anderes wirtschaftliches Modell für alle, die KI als tägliche Infrastruktur behandeln und nicht als seltene Gelegenheitsaufgabe, und sobald man die Schichten erkennt, wird der Weg nach vorne überraschend einfach.
Die erste Schicht ist das Hardware-Mindestmaß, und es ist niedriger, als die meisten denken. Eine generalüberholte RTX 3090, zwei bis drei Jahre alt und fürs Gaming aus der Mode, schafft quantisierte Modelle mit 70 Milliarden Parametern bei brauchbarer Geschwindigkeit. Ein Mac Studio mit Unified Memory bewältigt ähnliche Lasten mit weniger Aufwand. Die Investitionsausgabe ist ein einmaliger Schlag, der sich schnell amortisiert, und die Abschreibungskurve verläuft mild, weil diese Karten ein Jahrzehnt lang demselben Zweck dienen.
Die zweite Schicht ist das Modell selbst. Open-Weight-Modelle haben bei den Aufgaben, die die meisten Menschen tatsächlich erledigen, schnell aufgeholt: Entwerfen, Zusammenfassen, Klassifizieren, Strukturieren von Daten aus unordentlichem Text. Sie geben sich nicht mit weniger zufrieden. Sie wählen ein Modell, das zu Ihrem Hardware-Budget passt, anstatt Zeit auf fremdem Silizium zu mieten. Quantisierte Varianten tauschen etwas Qualität gegen eine deutliche Reduzierung des Speichers – fast immer der richtige Kompromiss für einen persönlichen Stack.
Die dritte Schicht ist die Laufzeit- und Orchestrierungssoftware. llama.cpp, Ollama, vLLM und ähnliche Projekte haben das Bereitstellen von Modellen in einen Einzeiler verwandelt. Sobald ein Modell lokal läuft, ist es einfach, es den eigenen Werkzeugen zugänglich zu machen. Eigene Skills – diese kleinen Automatisierungen, die „Fasse dieses PDF zusammen" zu einem einzigen Tastendruck machen – binden sich genauso an einen lokalen Endpunkt wie an einen gehosteten. Die Integrationskosten sind im Wesentlichen null.
Die vierte Schicht ist das Workflow-Design. Der Fehler, den Menschen machen, besteht darin, lokale KI als Cloud-Ersatz zu behandeln und jede Ineffizienz zu replizieren. Der Gewinn entsteht durch Caching wiederkehrender Prompts, Batching ähnlicher Aufgaben und das Ausführen schwerer Jobs über Nacht, wenn niemand auf die GPU wartet. Ein lokaler Stack belohnt ein wenig technische Sorgfalt auf eine Weise, wie es die Cloud nie tat.
Die fünfte Schicht – und die, die die meisten überspringen – ist das Messen. Verfolgen Sie Ihre tatsächliche Nutzung. Die meisten persönlichen KI-Nutzer verbrauchen nur einen Bruchteil ihrer verfügbaren Rechenleistung. Sobald man die tatsächlichen Zahlen sieht, lässt sich die Wirtschaftlichkeit nicht mehr ignorieren.
Wenn Sie neugierig sind, fangen Sie klein an. Laden Sie ein Open-Weight-Modell, betreiben Sie es auf der Maschine, die Sie bereits besitzen, und richten Sie einen persönlichen Workflow darauf aus. Die Community-Berichte und Benchmarks sind gut, aber die einzige Kennzahl, die zählt, ist, ob es Ihre Arbeit erledigt. Die Cloud wird noch da sein, falls Sie sie brauchen. Für das meiste, was ein persönlicher Stack tatsächlich tut, wird sie nicht nötig sein.