Fehler 504: was tun, wenn gemini-3.5-flash fehlschlägt

Ein 504 bedeutet, dass das Gateway beim Warten auf das vorgelagerte Modell in einen Timeout gelaufen ist: Die Anfrage wurde gesendet, aber der vorgelagerte Dienst antwortete nicht innerhalb des Gateway-Timeouts.

504 Gateway Timeout bedeutet, dass das Gateway das Warten auf die Upstream-Antwort aufgegeben hat. Die Anfrage wurde weitergeleitet, aber innerhalb des Gateway-Limits kam kein Ergebnis zurück. Kürzere Ausgabe, Streaming oder ein niedrigeres max_tokens lösen das meist.

gemini-3.5-flash wird von Google bereitgestellt. Alles auf dieser Seite — Ursachen, Lösungen und gemessene Daten — basiert auf dem tatsächlichen Laufzeitverhalten dieses Modells auf der Gatewayschicht.

An diesem Gateway ist die häufigste Ursache: Der vorgelagerte Dienst brauchte länger als das Gateway-Timeout erlaubt. Empfohlene erste Maßnahme: Wechseln Sie zur Streaming-Ausgabe.

Häufige Ursachen

  • Der vorgelagerte Dienst brauchte länger als das Gateway-Timeout erlaubt
  • Ein langer Kontext hat die Inferenzzeit erhöht
  • Ein vorgelagerter Knoten hängt
  • Eine nicht gestreamte Anfrage mit sehr langer Ausgabe

So beheben Sie es

  • Wechseln Sie zur Streaming-Ausgabe
  • Kürzen Sie den Kontext und senken Sie max_tokens
  • Versuchen Sie es nach kurzer Wartezeit erneut
  • Nutzen Sie ein Modell mit schnellerer Inferenz

Wiederholung mit exponentiellem Backoff

Der folgende Code wiederholt den Aufruf, wenn gemini-3.5-flash 504 liefert: bis zu 5 Versuche, mit wachsender Wartezeit und zufälligem Jitter, damit parallele Anfragen nicht gleichzeitig wiederholen. Base-URL und API-Key werden aus Umgebungsvariablen gelesen — nicht hart codieren.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'gemini-3.5-flash'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Wichtige Daten zu diesem Modell

TPS1669.89
Durchschn. Latenz3330 ms
Erfolgsrate100%
API-Endpunkthttps://api.airai.cc/v1
OpenAI-kompatibelOpenAI-compatible
AnbieterGoogle
Kontext1M
FunktionenReasoning, Tools, Files, Vision, Audio
API-Formateopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Abrechnungsformelp * 1.5 + cr * 0.15 + ai * 1.5 + c * 9

Häufige Fragen

Tritt 504 in Mehr-Runden-Dialogen mit gemini-3.5-flash häufiger auf?

Die Request-Parameter müssen geändert werden; Retry allein hilft nicht. Das ist ein clientseitiges Konfigurationsproblem; serverseitig ändert sich nichts. Die Fähigkeits-Tags sind Reasoning, Tools, Files, Vision, Audio, daraus ergeben sich die Parameter-Obergrenzen. Das Kontextfenster 1M bestimmt die maximale Eingabe pro Anfrage, darüber wird direkt abgelehnt. Kürzen oder verdichten Sie lange Eingaben — das senkt 504 deutlich.

Führt ein Retry dazu, dass die Anfrage doppelt ausgeführt wird?

Business-Code muss meist nicht geändert werden, nur der Aufruftakt. Bei der Abrechnung p * 1.5 + cr * 0.15 + ai * 1.5 + c * 9 werden fehlgeschlagene Anfragen nicht angerechnet. Setzen Sie die Obergrenze auf 3–5 Versuche und ergänzen Sie Jitter. Wiederholbare Fehler mit exponentiellem Backoff, der Rest sofort als Fehler zurückgeben.

Wie hoch sollte der Timeout sein?

Parallelität und Timeouts sind hier die eigentlichen Variablen, nicht das Modell. Senken Sie zuerst die Parallelität — die meisten Durchsatzprobleme verschwinden dann. Dieses Modell hat ein Kontextfenster von 1M und stammt von Google. Starten Sie mit niedriger Parallelität, beobachten Sie einige Minuten, dann steigern. Fügen Sie eine Cache-Schicht ein, damit wiederholte Anfragen nicht alle das Modell treffen.

Muss ich den Tarif upgraden, um 504 bei gemini-3.5-flash zu beheben?

Sowohl ein höheres Tariflimit als auch eine niedrigere Aufruffrequenz helfen. Die Abrechnung folgt p * 1.5 + cr * 0.15 + ai * 1.5 + c * 9, ohne Ausgabe also keine Kosten. Prüfen Sie zuerst Guthaben und Rate-Limits in der Konsole, dann den Code.

Weitere Fehler bei diesem Modell

Andere Modelle mit demselben Fehler

Zurück zur Modellseite

Daten aktualisiert: 2026-10-10 08:15

Technischer SupportLive-Support
Nach oben