Price-Performance-Routing: das günstigste Modell, das die Aufgabe noch löst

Routing & Technik

Maximilian Keller

Maximilian Keller

Price-Performance-Routing: das günstigste Modell, das die Aufgabe noch löst

Price-Performance-Routing heißt: Jede Anfrage geht an das günstigste Modell, das die konkrete Aufgabe noch in ausreichender Qualität löst. Richtig gemacht kann das die KI-Rechnung oft um 60 bis 80 Prozent senken, ohne dass die Ausgabequalität leidet. Dieser Beitrag erklärt, warum sich das lohnt, wie ihr Aufgaben in Preis-Tiers einteilt und wie ihr den passenden Kosten-Qualitäts-Punkt für jeden Anwendungsfall findet.

Das Wichtigste in Kürze

  • Price-Performance-Routing schickt jede Anfrage an das günstigste Modell, das die Aufgabe noch löst.

  • Realistisch sind grob 60 bis 80 Prozent weniger Modellkosten, weil die meisten Anfragen einfach sind.

  • Ein dreistufiges Tier-Modell plus ein Kosten-Qualitäts-Score pro Aufgabentyp macht die Wahl messbar.

  • Prompt-Caching, Batch-Verarbeitung und Multi-Provider-Routing sparen zusätzlich.

Der Reflex vieler Teams ist, für alles das stärkste verfügbare Modell zu nehmen. Sicher ist sicher. Das Problem: Die Preisspanne zwischen Frontier- und Budget-Modellen reicht bei den Eingabe-Tokens inzwischen bis zum rund 150-Fachen. Der Qualitätsunterschied bei einfachen Aufgaben liegt dagegen oft im einstelligen Prozentbereich. Ihr zahlt also den 150-fachen Preis für ein paar Prozentpunkte, die bei einer Klassifikation niemand merkt. Wie belastbar diese Ersparnis wirklich ist und wo ihre Grenzen liegen, steht im technischen Überblick zum Modell-Routing.

Warum die Preisspanne immer größer wird

OpenAI, Anthropic und Google bieten inzwischen gestaffelte Modell-Lineups, von winzigen Nano-Modellen bis zu den großen Reasoning-Modellen. Zwischen der kleinsten und der größten Stufe eines einzigen Anbieters liegt leicht Faktor 20 beim Preis. Über Anbieter hinweg wird die Spanne noch größer.

Die Qualitätskurve verläuft dabei flacher als die Preiskurve. Bei einfachen, gut definierten Aufgaben wie Kategorisieren, Extrahieren oder Umformatieren erreicht ein kleines Modell einen sehr großen Teil der Qualität eines Frontier-Modells, zu einem Bruchteil der Kosten. Routing-Untersuchungen wie RouteLLM und FrugalGPT zeigen genau dieses Muster. Der Aufpreis rechnet sich erst dort, wo echtes mehrstufiges Reasoning gefragt ist.

Preis-Momentaufnahme

Eine grobe Orientierung nach Preis-Tier (Angaben je 1 Mio. Tokens, Einführungspreise können sich ändern):

Tier

Eingabe

Ausgabe

Ideal für

Nano-Klasse

0,10 bis 0,40 $

0,40 bis 1,60 $

Klassifikation, Extraktion, einfache Übersetzung

Mittelklasse

0,40 bis 2,00 $

1,60 bis 10,00 $

Zusammenfassungen, Q&A, kurze Texte, einfacher Code

Frontier

2,00 bis 3,00 $

10,00 bis 15,00 $

Mehrstufige Analyse, Agenten, komplexe Codegenerierung

Das Routing-Framework nach Aufgaben-Komplexität

Der praktikabelste Einstieg ist ein dreistufiges Modell, das jede Aufgabe einem Tier zuordnet.

Tier 1: Nano-Klasse

Für einfaches Muster-Matching: Einordnen in vordefinierte Kategorien, Extraktion aus Formularen, Umformatieren von Text, einfache Übersetzungen. Hier gewinnt fast immer das kleinste Modell.

Tier 2: Mittelklasse

Für moderates Reasoning: Zusammenfassungen von Artikeln und Dokumenten (bis etwa 10.000 Tokens), Q&A aus Wissensdatenbanken, kurze Texte, einfache Codegenerierung.

Tier 3: Frontier

Für tiefes Reasoning: mehrstufige Analysen, agentische Softwareentwicklung, juristische oder medizinische Dokumentenanalyse, Recherche-Synthese. Hier ist der Aufpreis gerechtfertigt.

Einen Kosten-Qualitäts-Score bauen

Ins Blaue zu routen bringt nichts, ihr braucht Zahlen. In drei Schritten:

  • Definiert eine Qualitätsmetrik, die zur Aufgabe passt (z. B. Trefferquote bei Klassifikation, Übereinstimmung mit Referenz bei Extraktion).

  • Testet 50 bis 100 reale Fälle durch jedes Tier und protokolliert Qualität und Token-Kosten.

  • Rechnet die Kosten pro Qualitätspunkt aus: Gesamtkosten geteilt durch den Qualitäts-Score.

Ein Rechenbeispiel zur Illustration, angelehnt an eine E-Mail-Klassifikation: Ein Nano-Modell erreicht 94 % Trefferquote bei 0,10 $ je 1 Mio. Tokens, also rund 0,0011 $ pro Qualitätspunkt. Ein Frontier-Modell kommt auf 97 % bei 2,00 $ je 1 Mio. Tokens, rund 0,0206 $ pro Punkt. In diesem Beispiel ist das Nano-Modell damit etwa 19-mal kosteneffizienter, bei drei Prozentpunkten weniger Qualität. Ob sich der Aufpreis fürs stärkere Modell lohnt, entscheidet ihr pro Aufgabe anhand eurer eigenen Messung, nicht pauschal.

Balkendiagramm der Kosten pro Qualitätspunkt bei der E-Mail-Klassifikation: Nano-Modell 0,0011 $ gegenüber Frontier-Modell 0,0206 $, rund 19-mal teurer.

Smart Routing mit kontinent.ai

Damit Routing praktikabel bleibt, dürft ihr für einen Modellwechsel nicht den halben Code umschreiben. Über eine einheitliche API wie kontinent.ai ändert ihr nur den Modellnamen im Request. Endpoint, Authentifizierung und Antwortformat bleiben gleich. So steuert ihr pro Aufgabentyp das passende Tier an, ohne für jeden Anbieter eine eigene Integration zu pflegen. Weil alles über eine in der EU gehostete Infrastruktur läuft, ist die Datenresidenz-Frage dabei geklärt. Wie ein Router technisch aufgebaut ist, steht im technischen Überblick.

Drei Hebel, die zusätzlich sparen

Fallback-Routing. Ist das Primärmodell überlastet oder nicht verfügbar, springt automatisch das nächste in der Liste ein. Die Anwendung bleibt betriebsbereit, ohne Codeänderung.

Prompt-Caching. Wiederkehrender Kontext wie System-Prompts oder Wissensbasen lässt sich zwischenspeichern. Je nach Anbieter gibt es Rabatte bis in den Bereich von 90 % auf zwischengespeicherte Tokens, wie ihn etwa Anthropics Prompt-Caching beschreibt. Bei 10.000 Anfragen am Tag mit einem 2.000-Token-System-Prompt summiert sich das schnell auf mehrere Hundert Euro im Monat.

Batch-Verarbeitung. Was nicht in Echtzeit passieren muss, läuft asynchron im Batch, häufig zum halben Preis. Zusammen mit Tier-1-Modellen holt ihr so am meisten heraus.

Multi-Provider-Routing als Kostenversicherung

Wer an einem einzigen Anbieter hängt, ist dessen Preisen und Ausfällen ausgeliefert. Multi-Provider-Routing über eine einheitliche API erlaubt den sofortigen Wechsel bei Preiserhöhungen oder Störungen, ohne Codeänderung. Das gibt euch Verhandlungsmasse und Ausfallsicherheit zugleich, und es senkt das Vendor-Lock-in-Risiko.

Häufige Fragen

Was ist Price-Performance-Routing?

Eine Routing-Strategie, die jede Anfrage an das günstigste Modell schickt, das die Aufgabe noch in ausreichender Qualität löst, statt pauschal immer das stärkste zu verwenden.

Wie viel lässt sich damit sparen?

In der Praxis grob 60 bis 80 Prozent der Modellkosten, weil der Großteil realer Anfragen aus einfachen Aufgaben besteht, die kein Frontier-Modell brauchen. Die belastbaren Studienzahlen und ihre Grenzen ordnet der technische Überblick ein.

Leidet die Qualität unter günstigeren Modellen?

Bei einfachen, gut definierten Aufgaben kaum. Kleine Modelle erreichen dort oft 94 bis 97 Prozent der Frontier-Qualität. Messt das pro Aufgabentyp, statt zu raten.

Wie messe ich den richtigen Kompromiss?

Über die Kosten pro Qualitätspunkt: Qualität und Token-Kosten je Tier an 50 bis 100 realen Fällen erheben und die Gesamtkosten durch den Qualitäts-Score teilen.

Muss ich für jeden Anbieter eigenen Code schreiben?

Nein. Über eine einheitliche API wie kontinent.ai wechselt ihr das Modell per Parameter; Endpoint und Antwortformat bleiben gleich.

Stand: August 2026 · kontinent.ai. Preisangaben sind Richtwerte und können sich ändern.