Fehler 500: was tun, wenn hy3 fehlschlägt

Ein 500 bedeutet, dass der Server bei der Verarbeitung auf einen unerwarteten internen Fehler gestoßen ist. Meist liegt es nicht am Anfrageformat, sondern an einem vorübergehenden Fehler auf Server- oder Modellseite.

500 Internal Server Error ist ein unerwarteter serverseitiger Fehler. Die meisten 500er sind kurzzeitige Knotenfehler und gehen bei einem Retry mit exponentiellem Backoff durch. Bleibt der Fehler, trifft wahrscheinlich eine bestimmte Parameterkombination auf einen unbehandelten Randfall.

hy3 wird von Tencent bereitgestellt. Alles auf dieser Seite — Ursachen, Lösungen und gemessene Daten — basiert auf dem tatsächlichen Laufzeitverhalten dieses Modells auf der Gatewayschicht.

An diesem Gateway ist die häufigste Ursache: Ein vorübergehender Fehler im vorgelagerten Modelldienst. Empfohlene erste Maßnahme: Versuchen Sie es nach kurzer Wartezeit erneut — die meisten 500 sind vorübergehend.

Häufige Ursachen

  • Ein vorübergehender Fehler im vorgelagerten Modelldienst
  • Die Anfrage traf auf einen Knoten, der gerade neu startet
  • Der Request-Body löste einen unbehandelten Sonderfall aus
  • Ein kurzer Lastspitzenwert

So beheben Sie es

  • Versuchen Sie es nach kurzer Wartezeit erneut — die meisten 500 sind vorübergehend
  • Testen Sie ein anderes Modell desselben Anbieters, um einen modellspezifischen Fehler auszuschließen
  • Vereinfachen Sie den Request-Body (seltene Parameter entfernen) und wiederholen Sie
  • Bleibt es bestehen, kontaktieren Sie uns mit der Uhrzeit der Anfrage

Wiederholung mit exponentiellem Backoff

Der folgende Code wiederholt den Aufruf, wenn hy3 500 liefert: bis zu 5 Versuche, mit wachsender Wartezeit und zufälligem Jitter, damit parallele Anfragen nicht gleichzeitig wiederholen. Base-URL und API-Key werden aus Umgebungsvariablen gelesen — nicht hart codieren.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'hy3'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Wichtige Daten zu diesem Modell

API-Endpunkthttps://api.airai.cc/v1
OpenAI-kompatibelOpenAI-compatible
AnbieterTencent
Kontext256K
FunktionenReasoning, Tools, Open Weights
API-Formateopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Abrechnungsformelp * 0 + cr * 0 + cc * 0 + c * 0

Häufige Fragen

Wie viel Parallelität ist sicher?

Parallelität und Timeouts sind hier die eigentlichen Variablen, nicht das Modell. Dieses Modell hat ein Kontextfenster von 256K und stammt von Tencent. Ein 256K-Kontext bedeutet, dass lange Eingaben die First-Token-Latenz deutlich erhöhen. Fügen Sie eine Cache-Schicht ein, damit wiederholte Anfragen nicht alle das Modell treffen.

Welche Angaben braucht der Support bei einer Fehlermeldung?

Behalten Sie die Request-ID und den rohen Antworttext, sonst lässt sich nichts zuordnen. Das Modell wird von Tencent bereitgestellt, der Upstream-Status richtet sich nach den Ankündigungen des Anbieters. Reproduzieren Sie es zuerst in der Testumgebung mit demselben Request-Body.

Sollte ich bei 500 auf ein Ausweichmodell fallen?

Halten Sie zusätzlich ein Ausweichmodell bereit. Ein Fallback in der Architektur ist verlässlicher als jede Fehlermeldung einzeln zu flicken. Dieses Modell von Tencent hat mehrere Upstream-Knoten, zwischen denen das Gateway wechseln kann. Halten Sie ein leichteres Ersatzmodell bereit, damit der Hauptfluss nicht abbricht. Legen Sie den Modellnamen in die Konfiguration, dann braucht ein Upstream-Wechsel keine Codeänderung.

Muss ich den Tarif upgraden, um 500 bei hy3 zu beheben?

Es geht vor allem um das Kontingent, nicht um einen Defekt des Modells. Sowohl ein höheres Tariflimit als auch eine niedrigere Aufruffrequenz helfen. Bei Abrechnung nach p * 0 + cr * 0 + cc * 0 + c * 0 stammen die Kosten langer Ausgaben vor allem aus Output-Tokens. Wenn Sie Kosten nach p * 0 + cr * 0 + cc * 0 + c * 0 schätzen, rechnen Sie das Retry-Budget mit ein.

Weitere Fehler bei diesem Modell

Andere Modelle mit demselben Fehler

Zurück zur Modellseite

Daten aktualisiert: 2026-10-10 08:15

Technischer SupportLive-Support
Nach oben