Scale Tier für API-Kund:innen

Dieses Angebot ist für Unternehmenskund:innen verfügbar. Bitte wende dich an unser Vertriebsteam⁠, um mehr zu erfahren. Informationen dazu, wie du dieselben Premium-Vorteile bei Latenz und Zuverlässigkeit auf flexibler „Pay-as-you-go“-Basis nutzen kannst, findest du unter Vorrangige Bearbeitung⁠.

Mit Scale Tier kannst du im Voraus eine festgelegte Anzahl von API-Eingabe- und Ausgabe-Token pro Minute (sogenannte „Token-Einheiten“) erwerben, um auf einen bestimmten Modell-Schnappschuss zuzugreifen. Jede Token-Einheit wird für mindestens 30 Tage erworben. Je nach Kundeninteresse werden möglicherweise weitere Modelle hinzugefügt.

Durch Auswahl von Scale Tier erhältst du Zugriff auf Folgendes:

Vorhersehbare Latenz: Scale Tier ist darauf ausgelegt, Token schneller und mit einer konstanteren Geschwindigkeit zu generieren als der Pay-as-you-go-Dienst (PAYG), selbst bei hoher Nachfrage.
Unbegrenzte Skalierung: Alle Kontingentkäufe mit Scale Tier werden automatisch zu deinen Ratenlimits hinzugefügt, sodass du mühelos weiter skalieren kannst.
Höhere Zuverlässigkeit: Scale-Tier-Traffic bietet ein SLA mit 99,9 % Betriebszeit und priorisierter Rechenleistung.

	Eingabepaket	Output-Paket	Uptime SLA	Latenz-SLA (Service Level Agreement)
GPT-5.5	50.000 TPM 750,00 $ pro Einheit/Tag	n. v.³	99,9 %	99 % > 100 Tokens pro Sekunde²
GPT-5.4 mini	50.000 TPM 100,00 $ pro Einheit/Tag	n. v.³	99,9 %	99 % > 100 Tokens pro Sekunde²
GPT-5.4 schließt langen Kontext aus⁴	50.000 TPM 300,00 $ pro Einheit/Tag	n. v.³	99,9 %	99 % > 50 Tokens pro Sekunde²
GPT-5.2	25.000 TPM 105,00 $ pro Einheit/Tag	2.500 TPM 84,00 $ pro Einheit/Tag	99,9 %	99 % > 50 Tokens pro Sekunde²
GPT-5.1	25.000 TPM 75,00 $ pro Einheit/Tag	2.500 TPM 60,00 $ pro Einheit/Tag	99,9 %	99 % > 50 Tokens pro Sekunde²
GPT-5	25.000 TPM 75,00 $ pro Einheit/Tag	2.500 TPM 60,00 $ pro Einheit/Tag	99,9 %	99 % > 50 Tokens pro Sekunde²
GPT-5 mini	500.000 TPM 275,00 $ pro Einheit/Tag	50.000 TPM 220,00 $ pro Einheit/Tag	99,9 %	99 % > 80 Tokens pro Sekunde²
GPT-4.1 schließt Langzeit-Kontext aus¹	30.000 TPM 110,00 $ pro Einheit/Tag	2.500 TPM 36,00 $ pro Einheit/Tag	99,9 %	99 % > 80 Tokens pro Sekunde²
GPT-4.1 mini schließt Langzeit-Kontext aus¹	500.000 TPM 450,00 $ pro Einheit/Tag	50.000 TPM 175,00 $ pro Einheit/Tag	99,9 %	99 % > 90 Tokens pro Sekunde²
GPT-4.1 nano schließt Langzeit-Kontext aus¹	500.000 TPM 110,00 $ pro Einheit/Tag	50.000 TPM 40,00 $ pro Einheit/Tag	99,9 %	99 % > 100 Tokens pro Sekunde²
GPT-4.1 fine tuning	30.000 TPM 165,00 $ pro Einheit/Tag	2.500 TPM 36,00 $ pro Einheit/Tag	99,9 %	99 % > 80 Tokens pro Sekunde²
GPT-4.1 mini fine tuning	500.000 TPM 900,00 $ pro Einheit/Tag	50.000 TPM 175,00 $ pro Einheit/Tag	99,9 %	99 % > 90 Tokens pro Sekunde²
o3	25.000 TPM 75,00 $ pro Einheit/Tag	5.000 TPM 60,00 $ pro Einheit/Tag	99,9 %	99 % > 80 Tokens pro Sekunde²
o4-mini	30.000 TPM 50,00 $ pro Einheit/Tag	5.000 TPM 32,50 $ pro Einheit/Tag	99,9 %	99 % > 90 Tokens pro Sekunde²
GPT-4o	30.000 TPM 124,59 $ pro Einheit/Tag	2.500 TPM 39,34 $ pro Einheit/Tag	99,9 %	99 % > 80 Tokens pro Sekunde²
GPT-4o mini	500.000 TPM 114,75 $ pro Einheit/Tag	50.000 TPM 49,18 $ pro Einheit/Tag	99,9 %	99 % > 90 Tokens pro Sekunde²
GPT-4o mini fine tuning	500.000 TPM 229,50 $ pro Einheit/Tag	50.000 TPM 98,36 $ pro Einheit/Tag	99,9 %	99 % > 90 Tokens pro Sekunde²
o1	5.000 TPM 163,93 $ pro Einheit/Tag	1.000 TPM 131,15 $ pro Einheit/Tag	99,9 %	99 % > 80 Tokens pro Sekunde²
o3-mini	30.000 TPM 78,69 $ pro Einheit/Tag	5.000 TPM 52,46 $ pro Einheit/Tag	99,9 %	99 % > 90 Tokens pro Sekunde²

1Anfragen mit geschätztem Umfang von über 128.000 Prompt-Tokens

2Berechnet als p50-Anfragelatenz auf 5-Minuten-Basis. Für Kunden mit bestehenden Unternehmensverträgen, deren Latenz-SLAs als p50-Anfragelatenz auf Minutenbasis berechnet werden, gelten die bisherigen SLAs auch weiterhin.

3Bei GPT-5.4 wird Scale Tier als Bundle aus kombinierten Eingabe- und Ausgabe-Tokens pro Minute erworben. Die Nutzung von Eingabe-Tokens, zwischengespeicherten Eingabe-Tokens und Ausgabe-Tokens wird zu unterschiedlichen Sätzen auf dieses kombinierte Bundle angerechnet. Beachte hierzu den Abschnitt „Funktionsweise“ unten.

4Langer Kontext ist >272K

So funktioniert es

Mit Scale Tier kannst du Ein- und Ausgabe-Token erwerben. Beispielsweise kostet mit GPT‑4.1 jede Eingabeeinheit 110 $/Tag und berechtigt zu 30.000 Eingabe-Token/Minute. Jede Ausgabeeinheit kostet 36 $/Tag und berechtigt zu 2.500 Ausgabe-Token/Minute. Jede Token-Einheit wird für mindestens 30 Tage erworben.

Weitere Informationen zur Interaktion von Scale Tier mit Prompt Caching findest du im nachstehenden FAQ-Abschnitt.

Mit GPT‑5.4 kaufst du kombinierte Eingabe- und Ausgabe-Token pro Minute. Dies bietet dir mehr Flexibilität und macht es überflüssig, das Verhältnis von Eingabe- zu Ausgabe-Token vorherzusagen. Bei der Nutzung von Scale Tier rechnen wir Token wie folgt auf deine kombinierten Token an:

Eingabe-Token zählen als 1
Zwischengespeicherte Eingabe-Token richten sich nach der Modellzwischenspeicherung wie unten im FAQ-Abschnitt beschrieben
Anzahl der Ausgabe-Token basierend auf dem PayG-Preisverhältnis von Ausgabe- zu Eingabe-Token für das Modell. Zum Beispiel zählt bei GPT‑5.4 ein Ausgabe-Token als 6.

Preisgestaltung

Für Abrechnungszwecke werden Token pro Minute (TPM) berechnet, indem die durchschnittliche Token-Anzahl ermittelt wird, die in 15-Minuten-Intervallen verwendet werden, die auf die volle Stunde ausgerichtet sind (z. B. 3:00 bis < 3:15, 3:15 bis < 3:30 usw.). Wenn die Gesamtzahl der innerhalb eines 15-Minuten-Zeitraums verwendeten Token unter deinem Scale Tier-Anspruch liegt, werden sie nicht in Rechnung gestellt. Falls du beispielsweise Scale Tier für GPT‑4o mit einem Anspruch auf 30.000 Eingabe-Token pro Minute kaufst, kannst du in einem Zeitraum von 15 Minuten bis zu 450.000 Eingabe-Token verwenden, ohne dass zusätzliche Kosten entstehen. Alle Token, die über dieses Limit hinaus verwendet werden, unterliegen den Pay-as-you-go-Tarifen (PAYG).

Token-Einheiten und Ratenlimits

Du kannst deine aktuellen Ratenlimits auf deiner Einstellungsseite⁠⁠(wird in einem neuen Fenster geöffnet) einsehen. Wenn du Token-Einheiten für Scale Tier kaufst, steigen deine Ratenlimits für dieses Modell automatisch um den Betrag deines Einkaufs. Wenn du das Modell verwendest, werden Anfragen zunächst unter Verwendung deines schnelleren Scale Tier-Kontingents verarbeitet. Solltest du dein Kontingent überschreiten, werden weitere Anfragen über den regulären Standard-Verarbeitungsdienst bearbeitet. Wenn du dein Gesamtratenlimit in einer Minute über Scale Tier + reguläre Limits der Standardverarbeitung hinweg überschreitest, werden weitere Anfragen wie üblich mit einem 429-Fehlercode abgelehnt.

Ja, du kannst den Parameter „service_tier“ in der Chat Completions API verwenden. Durch Angabe von „auto“ wird das Scale Tier-Kontingent verwendet, sofern es verfügbar ist. Bei Angabe von „default“ wird das Standardverarbeitungskontingent verwendet. Die Antwort enthält außerdem einen „service_tier“-Parameter, der angibt, welcher Dienst die Anfrage tatsächlich verarbeitet hat. Die Werte lauten entweder „scale“ oder „default“.

Je nach Modell gewähren wir auf zwischengespeicherte Eingabe-Token einen Rabatt von 50 %, 75 % oder 90 %. Wenn du 50.000 TPM in zwischengespeicherten Eingabe-Token in einem Modell sendest, bei dem zwischengespeicherte Token um 50 % reduziert werden, werden diese Token nur mit 25.000 TPM auf dein Kontingent angerechnet. Wenn du 50.000 TPM in zwischengespeicherten Eingabe-Token in einem Modell sendest, bei dem zwischengespeicherte Token um 75 % reduziert werden, werden diese Token nur mit 12.500 TPM auf dein Kontingent angerechnet. Weitere Informationen zu Prompt Caching ↗⁠(wird in einem neuen Fenster geöffnet)

Scale Tier für API-Kund:innen

So funktioniert es

Preisgestaltung

Bestellung und Bereitstellung von Scale Tier

Wann beginnt die Abrechnung?

Wie werden Pay-as-you-go-Überschreitungen berechnet, während ich Scale Tier verwende?

Müssen meine Ausgaben auf Scale Tier angerechnet werden, wenn ich eine jährliche Verpflichtung eingehe?

Ist meine jährliche Verpflichtung an ein bestimmtes Angebot gebunden?

Wenn ich reservierte Kapazität bereits verwende, wie kann ich Scale Tier für GPT-4o nutzen?

Token-Einheiten und Ratenlimits

Wie kann ich Token-Einheiten auf Scale Tier erwerben?

Wie erkenne ich meine TPM?

Wie finde ich meine Gesamtratenlimits?

Kann ich auswählen, welche Anfragen von Scale Tier abgedeckt werden?

Wie funktioniert Scale Tier mit Prompt Caching?

Modelle

Wie funktionieren andere Modalitäten mit Scale Tier?

Unterstützt Scale Tier die Feinabstimmung?

Kann ich meinen Extra-Traffic von Scale Tier automatisch an die vorrangige Verarbeitung senden?

Zuverlässigkeit

Was passiert bei einem Verstoß gegen die SLA für Latenz und für Betriebszeit?

Richtlinien

Wie funktioniert keine Datenaufbewahrung für Scale Tier?