Fehler 503: was tun, wenn gemini-3.1-pro-preview-customtools fehlschlägt

Ein 503 bedeutet, dass der Dienst vorübergehend nicht verfügbar ist, meist wegen Wartung oder Überlastung. Anders als bei 429 geht es nicht um Ihr Kontingent, sondern um die Kapazität auf Serverseite.

503 Service Unavailable bedeutet, dass der Dienst die Anfrage derzeit nicht bearbeiten kann, meist wegen Überlastung oder Wartung. Der Unterschied zu 429 ist wichtig: 429 heißt Ihr Kontingent ist aufgebraucht, 503 heißt die Serverkapazität reicht nicht. Vergrößern Sie das Backoff-Intervall, statt den Key zu wechseln.

gemini-3.1-pro-preview-customtools wird von Google bereitgestellt. Alles auf dieser Seite — Ursachen, Lösungen und gemessene Daten — basiert auf dem tatsächlichen Laufzeitverhalten dieses Modells auf der Gatewayschicht.

An diesem Gateway ist die häufigste Ursache: Das vorgelagerte Modell ist überlastet. Empfohlene erste Maßnahme: Versuchen Sie es später mit längerem Backoff erneut.

Häufige Ursachen

  • Das vorgelagerte Modell ist überlastet
  • Der Dienst wird gewartet oder ausgerollt
  • Der Knoten in Ihrer Region ist nicht verfügbar
  • Ein plötzlicher Traffic-Anstieg

So beheben Sie es

  • Versuchen Sie es später mit längerem Backoff erneut
  • Wechseln Sie zu einem weniger ausgelasteten gleichwertigen Modell
  • Vermeiden Sie Batch-Jobs zu Spitzenzeiten
  • Beachten Sie unsere Ankündigungen

Wiederholung mit exponentiellem Backoff

Der folgende Code wiederholt den Aufruf, wenn gemini-3.1-pro-preview-customtools 503 liefert: bis zu 5 Versuche, mit wachsender Wartezeit und zufälligem Jitter, damit parallele Anfragen nicht gleichzeitig wiederholen. Base-URL und API-Key werden aus Umgebungsvariablen gelesen — nicht hart codieren.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'gemini-3.1-pro-preview-customtools'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Wichtige Daten zu diesem Modell

API-Endpunkthttps://api.airai.cc/v1
OpenAI-kompatibelOpenAI-compatible
AnbieterGoogle
Kontext1M
FunktionenReasoning, Tools, Files, Vision, Audio
API-Formateopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Abrechnungsformelp * 2 + cr * 0.2 + c * 12) : tier("200k_plus", p * 4 + cr * 0.4 + c * 18

Häufige Fragen

Wird mir etwas berechnet, wenn gemini-3.1-pro-preview-customtools 503 liefert?

Berechnet wird nur der bereits erzeugte Output, der fehlgeschlagene Teil nicht. Der Eingabepreis liegt bei etwa $2.00 pro Million Tokens. Bei Abrechnung nach p * 2 + cr * 0.2 + c * 12) : tier("200k_plus", p * 4 + cr * 0.4 + c * 18 stammen die Kosten langer Ausgaben vor allem aus Output-Tokens. Prüfen Sie zuerst Guthaben und Rate-Limits in der Konsole, dann den Code. Wenn Sie Kosten nach p * 2 + cr * 0.2 + c * 12) : tier("200k_plus", p * 4 + cr * 0.4 + c * 18 schätzen, rechnen Sie das Retry-Budget mit ein.

Wie sollte ich Batch-Jobs planen, wenn gemini-3.1-pro-preview-customtools 503 liefert?

Senken Sie zuerst die Parallelität — die meisten Durchsatzprobleme verschwinden dann. Dieses Modell hat ein Kontextfenster von 1M und stammt von Google. Ein 1M-Kontext bedeutet, dass lange Eingaben die First-Token-Latenz deutlich erhöhen. Glätten Sie Spitzen mit Batching oder einer Warteschlange — stabiler als Parallelität spontan zu erhöhen.

Wenn gemini-3.1-pro-preview-customtools 503 liefert — Gateway oder Upstream ist wahrscheinlicher?

Dieser Fehler hängt nicht mit der Modellfähigkeit zusammen, er liegt auf Gateway-Ebene. Meist ist es ein kurzzeitiges Problem, das von selbst verschwindet. Die Fähigkeits-Tags dieses Modells sind Reasoning, Tools, Files, Vision, Audio. Besteht der Fehler mehrere Minuten, kontaktieren Sie den Plattform-Support zum Upstream-Status. Klären Sie zuerst Account-Ebene oder Modell-Ebene; beides wird völlig unterschiedlich behandelt.

Exponentielles Backoff oder festes Intervall?

Business-Code muss meist nicht geändert werden, nur der Aufruftakt. Ein Retry ist der wirksamste erste Schritt. Bei der Abrechnung p * 2 + cr * 0.2 + c * 12) : tier("200k_plus", p * 4 + cr * 0.4 + c * 18 werden fehlgeschlagene Anfragen nicht angerechnet. Setzen Sie die Obergrenze auf 3–5 Versuche und ergänzen Sie Jitter. Wiederholbare Fehler mit exponentiellem Backoff, der Rest sofort als Fehler zurückgeben.

Weitere Fehler bei diesem Modell

Andere Modelle mit demselben Fehler

Zurück zur Modellseite

Daten aktualisiert: 2026-10-10 15:40

Technischer SupportLive-Support
Nach oben