Fehler 502: was tun, wenn gemini-3.1-flash-lite-preview fehlschlägt

Ein 502 bedeutet, dass das Gateway eine ungültige Antwort vom vorgelagerten Modelldienst erhalten hat: Die Anfrage erreichte das Gateway, aber der Sprung zum vorgelagerten Dienst ist fehlgeschlagen.

502 Bad Gateway bedeutet, dass das Gateway eine ungültige Antwort vom Upstream-Modellservice erhalten hat. Die Anfrage erreichte das Gateway; der Fehler passierte auf dem Hop vom Gateway zum Upstream, meist durch einen Neustart oder eine getrennte Verbindung.

gemini-3.1-flash-lite-preview wird von Google bereitgestellt. Alles auf dieser Seite — Ursachen, Lösungen und gemessene Daten — basiert auf dem tatsächlichen Laufzeitverhalten dieses Modells auf der Gatewayschicht.

An diesem Gateway ist die häufigste Ursache: Der vorgelagerte Modelldienst ist nicht verfügbar oder antwortet fehlerhaft. Empfohlene erste Maßnahme: Versuchen Sie es einmal erneut — 502 sind meist vorübergehend.

Häufige Ursachen

  • Der vorgelagerte Modelldienst ist nicht verfügbar oder antwortet fehlerhaft
  • Ein vorgelagerter Knoten startet neu
  • Die Verbindung vom Gateway zum vorgelagerten Dienst wurde unterbrochen
  • Das Modell wurde vorübergehend offline genommen

So beheben Sie es

  • Versuchen Sie es einmal erneut — 502 sind meist vorübergehend
  • Wechseln Sie zu einem gleichwertigen Modell eines anderen Anbieters
  • Tritt 502 nur bei einem Modell auf, ist dessen vorgelagerter Dienst gestört
  • Versuchen Sie es später erneut oder kontaktieren Sie uns

Wiederholung mit exponentiellem Backoff

Der folgende Code wiederholt den Aufruf, wenn gemini-3.1-flash-lite-preview 502 liefert: bis zu 5 Versuche, mit wachsender Wartezeit und zufälligem Jitter, damit parallele Anfragen nicht gleichzeitig wiederholen. Base-URL und API-Key werden aus Umgebungsvariablen gelesen — nicht hart codieren.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'gemini-3.1-flash-lite-preview'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Wichtige Daten zu diesem Modell

TPS453.51
Durchschn. Latenz1001 ms
Erfolgsrate100%
API-Endpunkthttps://api.airai.cc/v1
OpenAI-kompatibelOpenAI-compatible
AnbieterGoogle
Kontext1M
FunktionenReasoning, Tools, Files, Vision, Audio
API-Formateopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Abrechnungsformelp * 0.25 + cr * 0.025 + ai * 0.5 + c * 1.5

Häufige Fragen

Parallele Anfragen in eine Warteschlange oder direkt drosseln?

Senken Sie zuerst die Parallelität — die meisten Durchsatzprobleme verschwinden dann. Ein 1M-Kontext bedeutet, dass lange Eingaben die First-Token-Latenz deutlich erhöhen. Glätten Sie Spitzen mit Batching oder einer Warteschlange — stabiler als Parallelität spontan zu erhöhen.

Führt ein Retry dazu, dass die Anfrage doppelt ausgeführt wird?

Business-Code muss meist nicht geändert werden, nur der Aufruftakt. Bei der Abrechnung p * 0.25 + cr * 0.025 + ai * 0.5 + c * 1.5 werden fehlgeschlagene Anfragen nicht angerechnet. Wiederholbare Fehler mit exponentiellem Backoff, der Rest sofort als Fehler zurückgeben.

Hängt 502 bei gemini-3.1-flash-lite-preview von Region oder Knoten ab?

Gruppieren Sie die Fehler nach Zeit und Knoten; das Muster ist meist deutlich. Behalten Sie die Request-ID und den rohen Antworttext, sonst lässt sich nichts zuordnen. Die gemessene Erfolgsrate beträgt 100%, die meisten Fehler zeigen sich als 502. Die Erfolgsrate 100% wird über Knoten gemittelt, ein schwacher Knoten drückt den Gesamtwert. Protokollieren Sie bei jedem Fehler die Request-ID — sie hilft mehr als der Statuscode.

Wird mir etwas berechnet, wenn gemini-3.1-flash-lite-preview 502 liefert?

Keine Berechnung: Nur tatsächlich erzeugter Output zählt zum Verbrauch. Der Eingabepreis liegt bei etwa $0.25 pro Million Tokens. Wenn Sie Kosten nach p * 0.25 + cr * 0.025 + ai * 0.5 + c * 1.5 schätzen, rechnen Sie das Retry-Budget mit ein.

Weitere Fehler bei diesem Modell

Andere Modelle mit demselben Fehler

Zurück zur Modellseite

Daten aktualisiert: 2026-10-11 13:20

Technischer SupportLive-Support
Nach oben