Zum Inhalt springen
Guide · Kosten9 Min. LesezeitVon Read in English

Model Routing: Frontier-Preise nur für die Arbeit zahlen, die sie braucht

Die meisten Entwickler richten jede Anfrage auf das teuerste verfügbare Modell und wundern sich dann über die Rechnung. Model Routing beendet das: Planen mit einem Frontier-Modell, ausführen mit einem günstigeren, und die teuersten Token nur für die Arbeit reservieren, die sie wirklich braucht. Gut umgesetzt senkt das eine KI-Coding-Rechnung um 40 bis 85 Prozent. Hier ist die echte Rechnung, jeder praktikable Weg dorthin — und wie Sie sehen, ob es tatsächlich wirkt.

Kurzantwort

Model Routing bedeutet, jede Aufgabe an das günstigste Modell zu schicken, das sie bewältigen kann, statt für alles Frontier-Preise zu zahlen. Der wirksamste Schnitt trennt Planung von Ausführung: Ein Top-Modell wie Opus 4.8 oder GPT-5.5 plant und schreibt die Spezifikation, ein günstigeres Modell wie Sonnet, Haiku oder Cursors Composer schreibt daraus den Code. Realistisch sind 40 bis 70 Prozent Ersparnis allein durch Routing, und bis zu etwa 85 Prozent, wenn Sie Prompt Caching und niedrigeren Denkaufwand dazustapeln. Die begutachtete RouteLLM-Forschung erreichte 85 Prozent Ersparnis bei rund 95 Prozent der Frontier-Qualität. Tokens 4 Breakfast zeigt Ihre Ausgaben pro Modell, damit Sie wissen, was Sie umleiten sollten — und belegen können, dass die Ersparnis echt ist.

Schritt für Schritt

Die vollständige Anleitung

Jeder Schritt steht für sich. Springen Sie direkt zu dem, der zu Ihrer Situation passt.

  1. Was Model Routing eigentlich ist

    Model Routing heißt, jede Aufgabe dem günstigsten Modell zuzuordnen, das sie gut erledigt, statt für jede Anfrage Frontier-Preise zu zahlen. Die Preisspanne ist enorm: Claude Opus 4.8 kostet rund 5 $ pro Million Eingabe-Token und 25 $ pro Million Ausgabe, während Haiku 4.5 bei etwa 1 $ und 5 $ liegt. Ein Top-Modell zum Umbenennen einer Datei oder für einen TODO-Kommentar zu nutzen, ist verbranntes Geld. Der Standardfehler: Jede Anfrage bleibt dauerhaft auf dem leistungsstärksten Modell, und niemand wechselt je.

  2. Der wirksamste Hebel: Planung von Ausführung trennen

    Planung und Ausführung brauchen nicht dieselbe Modellqualität. Die Planung ist das eigentliche Denken: die Codebasis verstehen, eine Architektur wählen, eine detaillierte Spezifikation schreiben. Das verdient Ihr bestes Modell. Die Ausführung — aus einer guten Spezifikation Code schreiben — erledigt ein deutlich günstigeres Modell zuverlässig. Der Ablauf: Mit einem Frontier-Modell planen und die Spezifikation schreiben, die Spezifikation an ein günstigeres Modell übergeben, optional das Frontier-Modell den Pull Request prüfen lassen, dann das günstige Modell korrigieren und ausliefern lassen. Das teure Denken passiert einmal, ganz am Anfang.

  3. Die echte Rechnung — und warum 90 Prozent der optimistische Rand sind

    Nehmen Sie ein Feature, das 100k Eingabe- und 20k Ausgabe-Token für die Planung verbraucht und danach 150k Eingabe und 120k Ausgabe fürs Coden — Code schreiben erzeugt weit mehr Ausgabe. Komplett auf Opus 4.8 sind das etwa 4,75 $. Verschieben Sie nur das Coden auf Haiku 4.5, sinkt es auf rund 1,75 $ — 63 Prozent weniger für denselben Plan. Über eine größere Preislücke geroutet, sparen Sie mehr: Matthew Bermans Rechenbeispiel landet bei 68 Prozent, und das begutachtete RouteLLM-Framework erreichte 85 Prozent bei rund 95 Prozent der Frontier-Qualität. Die 90 Prozent aus manchen Schlagzeilen sind nur am Rand real: ausführungslastige Arbeit, große Preislücke und Prompt Caching obendrauf. Routing allein bringt üblicherweise 40 bis 70 Prozent.

  4. Das richtige Modell für jeden Job wählen

    Eine einfache Routing-Tabelle deckt das meiste ab. Planung, Architektur und harte Fehlersuche gehen an ein Frontier-Modell wie Opus 4.8 oder GPT-5.5. Implementierung nach klarer Spezifikation geht an ein Mittelklasse-Modell wie Sonnet 4.6 oder Cursors Composer, der etwa 0,50 $ und 2,50 $ pro Million kostet und deutlich teurere Modelle in Agent-Benchmarks schlägt. Dateinavigation, Umbenennungen, einfache Änderungen und Subagenten laufen auf Haiku 4.5 — der günstigsten fähigen Option, mehr als doppelt so schnell. Halten Sie ein zweites Frontier-Modell fürs Code-Review in Reserve: Ein frisches Augenpaar findet, was der Autor übersieht.

  5. Nicht nur das Modell routen, auch den Denkaufwand

    Die Modellfamilie ist nur die halbe Miete. Jede aktuelle Plattform — Claude Code, Codex, Cursor und ChatGPT — bietet eine Thinking- oder Reasoning-Effort-Einstellung von niedrig bis maximal, und diese Denk-Token werden zu Ausgabepreisen abgerechnet. Die meisten Aufgaben brauchen kein maximales Denken, doch die Voreinstellungen sind Richtung hoch gewandert. Setzen Sie einfache Arbeit auf niedrigen Aufwand und reservieren Sie hoch oder maximal für echtes mehrstufiges Schlussfolgern. In Claude Code nutzen Sie /effort oder deckeln mit MAX_THINKING_TOKENS; OpenAI-Modelle nehmen ein reasoning_effort von none bis xhigh. Effort-Routing verstärkt Model Routing, es ersetzt es nicht.

  6. Routing in der Praxis, vom einfachsten Weg an

    Es gibt vier Wege, mit steigendem Automatisierungsgrad. Erstens manuell: Mit dem Frontier-Modell planen und die Spezifikation schreiben, dann die Spezifikation in ein günstigeres Modell kopieren und bauen lassen. Zweitens Bordmittel: Claude Code wechselt Modelle mit /model und regelt den Aufwand; Cursors Auto-Modus leitet Aufgaben automatisch an den günstigen hauseigenen Composer. Drittens CLI-übergreifende Delegation: Claude Code und Codex können sich gegenseitig aufrufen — planen Sie im einen und delegieren Sie das Codeschreiben mit einem kleinen Skill an das günstigere. Viertens dedizierte Router für API- oder Team-Workloads: OpenRouters Auto Router, angetrieben von Not Diamond, dazu Martian und das quelloffene RouteLLM klassifizieren die Schwierigkeit jedes Prompts und schicken ihn automatisch an die passende Stufe.

  7. Die übrigen Kostenhebel dazustapeln

    Routing ist der größte einzelne Hebel, aber er verstärkt sich mit einigen weiteren. Prompt Caching gibt rund 90 Prozent Rabatt auf wiederholte Eingaben wie den System-Prompt und die CLAUDE.md und kann allein 30 bis 50 Prozent einer typischen Rechnung streichen. Starten Sie beim Aufgabenwechsel eine frische Sitzung, damit ein aufgeblähtes Kontextfenster nicht bei jedem Zug mitbezahlt wird. Halten Sie die Ausgabe knapp — Ausgabe-Token kosten das Drei- bis Fünffache der Eingabe. Nutzen Sie die Batch API für pauschal 50 Prozent Rabatt auf nicht eilige Arbeit. Und halten Sie Subagenten diszipliniert, etwa vier für die meiste Exploration. Jeder Hebel ist 30 bis 50 Prozent wert, und weil sie verschiedene Teile der Rechnung treffen, stapeln sie sich.

  8. Messen — sonst raten Sie nur

    Routing ohne Messung ist Raten. Um gut zu routen, müssen Sie sehen, welches Modell Ihr Budget tatsächlich frisst, und um eine Änderung zu belegen, müssen Sie die Zahl sich bewegen sehen. Genau diese Lücke füllt Tokens 4 Breakfast: echte Ausgaben aufgeschlüsselt nach Modell und Projekt, live in der Mac-Menüleiste, mit Monatsend-Prognose und einer Plan-Value-Auswertung, die zeigt, ob sich Ihr Abo überhaupt lohnt. Leiten Sie Ihre Ausführung auf ein günstigeres Modell um und beobachten Sie, wie die Ausgaben pro Modell in der Folgewoche sinken. Bewegt sich nichts, haben Sie das Falsche geroutet — und sehen es jetzt.

Profi-Tipps

  • Routen Sie nach der Form der Aufgabe, nicht danach, wie wichtig sie sich anfühlt. Eine bedrohlich klingende Aufgabe, die in Wahrheit Boilerplate ist, gehört trotzdem auf ein günstiges Modell.
  • Der größte Einzelgewinn ist das Auslagern der Ausführung. Die Spezifikation ist das teure Denken; Code aus einer guten Spezifikation zu schreiben ist günstige Arbeit, die ein Mittelklasse-Modell gut erledigt.
  • Stapeln Sie Routing mit Prompt Caching und niedrigerem Aufwand. Jeder Hebel ist 30 bis 50 Prozent wert, und weil sie verschiedene Teile der Rechnung treffen, verstärken sie sich.
  • Beobachten Sie nach einer Routing-Änderung eine Woche lang Ihre Ausgaben pro Modell. Echte Ersparnisse zeigen sich in den Zahlen — eingebildete nicht.
FAQ

Häufige Fragen

Kurze, direkte Antworten auf die häufigsten Fragen zu diesem Thema.

Was ist Model Routing?

Model Routing ist die Praxis, jede Aufgabe an das günstigste KI-Modell zu schicken, das sie bewältigen kann, statt für jede Anfrage Frontier-Preise zu zahlen. Leichte Arbeit wie Änderungen, Dateinavigation und Code nach klarer Spezifikation geht an ein günstiges Modell; schwere Arbeit wie Architektur und Planung an ein Top-Modell.

Wie viel lässt sich mit Model Routing tatsächlich sparen?

Realistisch 40 bis 70 Prozent allein durch Routing, und bis zu etwa 85 Prozent, wenn Sie zusätzlich Prompt Caching und niedrigeren Denkaufwand stapeln. Das begutachtete RouteLLM-Framework erreichte 85 Prozent Ersparnis bei rund 95 Prozent der Frontier-Qualität. Die 90 Prozent aus manchen Schlagzeilen sind ein Bestfall, der ausführungslastige Arbeit, eine große Preislücke und Caching obendrauf braucht.

Was ist das günstigste KI-Modell zum Programmieren?

Claude Haiku 4.5 ist das günstigste fähige Coding-Modell, mit rund 1 $ pro Million Eingabe-Token und 5 $ pro Million Ausgabe, und mehr als doppelt so schnell wie größere Modelle. Es bewältigt schnelle Änderungen, Dateinavigation und Subagenten-Arbeit gut. Für ganze Features nach Spezifikation bieten Sonnet 4.6 oder Cursors Composer mehr Leistung zu weiterhin niedrigen Kosten.

Welches Modell für Planung, welches fürs Codeschreiben?

Nutzen Sie Ihr bestes Modell, etwa Opus 4.8 oder GPT-5.5, für die Planung: Codebasis verstehen, Architektur wählen, eine detaillierte Spezifikation schreiben. Übergeben Sie die Spezifikation dann an ein günstigeres Modell wie Sonnet, Haiku oder Composer. Das teure Denken passiert einmal in der Planung, die Ausführung läuft günstig.

Hat Claude Code automatisches Model Routing?

Nicht automatisch. Claude Code lässt Sie Modelle manuell mit /model wechseln und das Denkbudget über /effort und MAX_THINKING_TOKENS steuern, routet aber nicht selbstständig zwischen Modellen. Cursors Auto-Modus routet automatisch, oft auf den günstigen hauseigenen Composer. Für vollautomatisches Routing über die API nutzen Sie OpenRouters Auto Router, Martian oder RouteLLM.

Woher weiß ich, dass Model Routing wirklich Geld spart?

Messen Sie Ihre Ausgaben pro Modell vorher und nachher. Tokens 4 Breakfast zeigt Ihre echten Kosten nach Modell und Projekt aufgeschlüsselt, live in der Mac-Menüleiste, mit Monatsend-Prognose. Leiten Sie die Ausführung auf ein günstigeres Modell um und prüfen Sie, ob die Ausgaben pro Modell in der Folgewoche tatsächlich sinken — statt es einfach anzunehmen.