Fehler 504: was tun, wenn MiniMax-M2.5 fehlschlägt

Ein 504 bedeutet, dass das Gateway beim Warten auf das vorgelagerte Modell in einen Timeout gelaufen ist: Die Anfrage wurde gesendet, aber der vorgelagerte Dienst antwortete nicht innerhalb des Gateway-Timeouts.

504 Gateway Timeout bedeutet, dass das Gateway das Warten auf die Upstream-Antwort aufgegeben hat. Die Anfrage wurde weitergeleitet, aber innerhalb des Gateway-Limits kam kein Ergebnis zurück. Kürzere Ausgabe, Streaming oder ein niedrigeres max_tokens lösen das meist.

MiniMax-M2.5 wird von MiniMax bereitgestellt. Alles auf dieser Seite — Ursachen, Lösungen und gemessene Daten — basiert auf dem tatsächlichen Laufzeitverhalten dieses Modells auf der Gatewayschicht.

An diesem Gateway ist die häufigste Ursache: Der vorgelagerte Dienst brauchte länger als das Gateway-Timeout erlaubt. Empfohlene erste Maßnahme: Wechseln Sie zur Streaming-Ausgabe.

Häufige Ursachen

  • Der vorgelagerte Dienst brauchte länger als das Gateway-Timeout erlaubt
  • Ein langer Kontext hat die Inferenzzeit erhöht
  • Ein vorgelagerter Knoten hängt
  • Eine nicht gestreamte Anfrage mit sehr langer Ausgabe

So beheben Sie es

  • Wechseln Sie zur Streaming-Ausgabe
  • Kürzen Sie den Kontext und senken Sie max_tokens
  • Versuchen Sie es nach kurzer Wartezeit erneut
  • Nutzen Sie ein Modell mit schnellerer Inferenz

Wiederholung mit exponentiellem Backoff

Der folgende Code wiederholt den Aufruf, wenn MiniMax-M2.5 504 liefert: bis zu 5 Versuche, mit wachsender Wartezeit und zufälligem Jitter, damit parallele Anfragen nicht gleichzeitig wiederholen. Base-URL und API-Key werden aus Umgebungsvariablen gelesen — nicht hart codieren.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'MiniMax-M2.5'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Wichtige Daten zu diesem Modell

API-Endpunkthttps://api.airai.cc/v1
OpenAI-kompatibelOpenAI-compatible
AnbieterMiniMax
Kontext204.8K
FunktionenReasoning, Tools, Open Weights
API-Formateopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Abrechnungsformelp * 0.3 + cr * 0.03 + cc * 0.375 + c * 1.2

Häufige Fragen

Tritt 504 in Mehr-Runden-Dialogen mit MiniMax-M2.5 häufiger auf?

Die Request-Parameter müssen geändert werden; Retry allein hilft nicht. Das ist ein clientseitiges Konfigurationsproblem; serverseitig ändert sich nichts. Die Fähigkeits-Tags sind Reasoning, Tools, Open Weights, daraus ergeben sich die Parameter-Obergrenzen. Das Kontextfenster 204.8K bestimmt die maximale Eingabe pro Anfrage, darüber wird direkt abgelehnt. Lassen Sie Parameterfehler sofort fehlschlagen, statt Retries zu verschwenden. Kürzen oder verdichten Sie lange Eingaben — das senkt 504 deutlich.

Hängt 504 bei MiniMax-M2.5 mit meinem Kontingent zusammen?

Sowohl ein höheres Tariflimit als auch eine niedrigere Aufruffrequenz helfen. Der Eingabepreis liegt bei etwa $0.30 pro Million Tokens. Bei Abrechnung nach p * 0.3 + cr * 0.03 + cc * 0.375 + c * 1.2 stammen die Kosten langer Ausgaben vor allem aus Output-Tokens. Prüfen Sie zuerst Guthaben und Rate-Limits in der Konsole, dann den Code. Wenn Sie Kosten nach p * 0.3 + cr * 0.03 + cc * 0.375 + c * 1.2 schätzen, rechnen Sie das Retry-Budget mit ein.

Wie sollte ich Batch-Jobs planen, wenn MiniMax-M2.5 504 liefert?

Senken Sie zuerst die Parallelität — die meisten Durchsatzprobleme verschwinden dann. Dieses Modell hat ein Kontextfenster von 204.8K und stammt von MiniMax. Ein 204.8K-Kontext bedeutet, dass lange Eingaben die First-Token-Latenz deutlich erhöhen. Bei langen Ausgaben erhöhen Sie den Timeout auf 60 Sekunden oder mehr. Fügen Sie eine Cache-Schicht ein, damit wiederholte Anfragen nicht alle das Modell treffen.

Wird mir etwas berechnet, wenn MiniMax-M2.5 504 liefert?

Berechnet wird nur der bereits erzeugte Output, der fehlgeschlagene Teil nicht. Die Abrechnung folgt p * 0.3 + cr * 0.03 + cc * 0.375 + c * 1.2, ohne Ausgabe also keine Kosten. Der Eingabepreis liegt bei etwa $0.30 pro Million Tokens. Prüfen Sie zuerst Guthaben und Rate-Limits in der Konsole, dann den Code. Wenn Sie Kosten nach p * 0.3 + cr * 0.03 + cc * 0.375 + c * 1.2 schätzen, rechnen Sie das Retry-Budget mit ein.

Weitere Fehler bei diesem Modell

Andere Modelle mit demselben Fehler

Zurück zur Modellseite

Daten aktualisiert: 2026-10-10 18:35

Technischer SupportLive-Support
Nach oben