Fehler 503: was tun, wenn mimo-v2.5 fehlschlägt

Ein 503 bedeutet, dass der Dienst vorübergehend nicht verfügbar ist, meist wegen Wartung oder Überlastung. Anders als bei 429 geht es nicht um Ihr Kontingent, sondern um die Kapazität auf Serverseite.

503 Service Unavailable bedeutet, dass der Dienst die Anfrage derzeit nicht bearbeiten kann, meist wegen Überlastung oder Wartung. Der Unterschied zu 429 ist wichtig: 429 heißt Ihr Kontingent ist aufgebraucht, 503 heißt die Serverkapazität reicht nicht. Vergrößern Sie das Backoff-Intervall, statt den Key zu wechseln.

mimo-v2.5 wird von Xiaomi bereitgestellt. Alles auf dieser Seite — Ursachen, Lösungen und gemessene Daten — basiert auf dem tatsächlichen Laufzeitverhalten dieses Modells auf der Gatewayschicht.

An diesem Gateway ist die häufigste Ursache: Das vorgelagerte Modell ist überlastet. Empfohlene erste Maßnahme: Versuchen Sie es später mit längerem Backoff erneut.

Häufige Ursachen

  • Das vorgelagerte Modell ist überlastet
  • Der Dienst wird gewartet oder ausgerollt
  • Der Knoten in Ihrer Region ist nicht verfügbar
  • Ein plötzlicher Traffic-Anstieg

So beheben Sie es

  • Versuchen Sie es später mit längerem Backoff erneut
  • Wechseln Sie zu einem weniger ausgelasteten gleichwertigen Modell
  • Vermeiden Sie Batch-Jobs zu Spitzenzeiten
  • Beachten Sie unsere Ankündigungen

Wiederholung mit exponentiellem Backoff

Der folgende Code wiederholt den Aufruf, wenn mimo-v2.5 503 liefert: bis zu 5 Versuche, mit wachsender Wartezeit und zufälligem Jitter, damit parallele Anfragen nicht gleichzeitig wiederholen. Base-URL und API-Key werden aus Umgebungsvariablen gelesen — nicht hart codieren.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'mimo-v2.5'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Wichtige Daten zu diesem Modell

API-Endpunkthttps://api.airai.cc/v1
OpenAI-kompatibelOpenAI-compatible
AnbieterXiaomi
Kontext1M
FunktionenReasoning, Tools, Files, Open Weights, Vision, Audio
API-Formateopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Abrechnungsformelp * 0.14 + cr * 0.0028 + c * 0.28

Häufige Fragen

Führt ein Retry dazu, dass die Anfrage doppelt ausgeführt wird?

Ein Retry ist der wirksamste erste Schritt. Bei der Abrechnung p * 0.14 + cr * 0.0028 + c * 0.28 werden fehlgeschlagene Anfragen nicht angerechnet. Setzen Sie die Obergrenze auf 3–5 Versuche und ergänzen Sie Jitter. Wiederholbare Fehler mit exponentiellem Backoff, der Rest sofort als Fehler zurückgeben.

Parallele Anfragen in eine Warteschlange oder direkt drosseln?

Parallelität und Timeouts sind hier die eigentlichen Variablen, nicht das Modell. Dieses Modell hat ein Kontextfenster von 1M und stammt von Xiaomi. Ein 1M-Kontext bedeutet, dass lange Eingaben die First-Token-Latenz deutlich erhöhen. Starten Sie mit niedriger Parallelität, beobachten Sie einige Minuten, dann steigern. Glätten Sie Spitzen mit Batching oder einer Warteschlange — stabiler als Parallelität spontan zu erhöhen.

Welche Angaben braucht der Support bei einer Fehlermeldung?

Gruppieren Sie die Fehler nach Zeit und Knoten; das Muster ist meist deutlich. Tritt es nur in Produktion auf, ist es meist eine Umgebungsdifferenz, kein Modellfehler. Das Modell wird von Xiaomi bereitgestellt, der Upstream-Status richtet sich nach den Ankündigungen des Anbieters. Reproduzieren Sie es zuerst in der Testumgebung mit demselben Request-Body.

Hängt 503 mit der Abrechnung von mimo-v2.5 zusammen?

Keine Berechnung: Nur tatsächlich erzeugter Output zählt zum Verbrauch. Bei der Abrechnung p * 0.14 + cr * 0.0028 + c * 0.28 werden fehlgeschlagene Anfragen nicht angerechnet. Prüfen Sie zuerst Guthaben und Rate-Limits in der Konsole, dann den Code. Wenn Sie Kosten nach p * 0.14 + cr * 0.0028 + c * 0.28 schätzen, rechnen Sie das Retry-Budget mit ein.

Weitere Fehler bei diesem Modell

Andere Modelle mit demselben Fehler

Zurück zur Modellseite

Daten aktualisiert: 2026-10-10 12:10

Technischer SupportLive-Support
Nach oben