Errore 503: cosa fare quando hy3 fallisce

Un 503 significa che il servizio è temporaneamente non disponibile, di solito per manutenzione o sovraccarico. A differenza del 429, non riguarda la tua quota: è un problema di capacità lato server.

503 Service Unavailable significa che il servizio non può gestire la richiesta ora, di solito per sovraccarico o manutenzione. La distinzione con 429 conta: 429 significa che la quota è esaurita, 503 che manca capacità server. Aumenta l’intervallo di backoff invece di cambiare key.

hy3 è fornito da Tencent. Tutto in questa pagina — cause, soluzioni e dati misurati — è ricavato dal comportamento reale di questo modello al livello del gateway.

Su questo gateway, la causa più comune è: Il modello a monte è sovraccarico. La prima azione consigliata è: Riprova più tardi con un backoff più lungo.

Cause comuni

  • Il modello a monte è sovraccarico
  • Il servizio è in manutenzione o in rilascio
  • Il nodo della tua regione non è disponibile
  • Un picco improvviso di traffico

Come risolvere

  • Riprova più tardi con un backoff più lungo
  • Passa a un modello equivalente meno carico
  • Evita i job in batch nelle ore di punta
  • Segui i nostri annunci

Retry con backoff esponenziale

Il codice qui sotto ritenta quando hy3 restituisce 503: fino a 5 tentativi, con attesa crescente e jitter casuale per evitare che le chiamate concorrenti ritentino insieme. Leggi base URL e API key dalle variabili d’ambiente, non inserirle hardcoded.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'hy3'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Dati chiave di questo modello

Endpoint APIhttps://api.airai.cc/v1
Compatibile con OpenAIOpenAI-compatible
FornitoreTencent
Contesto256K
FunzionalitàReasoning, Tools, Open Weights
Formati APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Formula di fatturazionep * 0 + cr * 0 + cc * 0 + c * 0

Domande frequenti

Come uso l’header Retry-After nella risposta?

Di solito non serve cambiare il codice, solo il ritmo delle chiamate. Con la fatturazione p * 0 + cr * 0 + cc * 0 + c * 0, le richieste fallite non rientrano nel consumo. Usa il backoff esponenziale per gli errori ritentabili e restituisci subito l’errore per gli altri.

503 continua su hy3: problema del modello o del mio account?

Questo errore non dipende dalle capacità del modello, è a livello di gateway. Di solito è momentaneo e si risolve da sé. I tag di capacità di questo modello sono Reasoning, Tools, Open Weights. Stabilisci prima se è a livello di account o di modello: i due casi si gestiscono in modo completamente diverso.

Come pianificare i job batch quando hy3 restituisce 503?

Qui le vere variabili sono la concorrenza e i timeout, non il modello. Abbassa prima la concorrenza: la maggior parte dei problemi di throughput scompare. Questo modello ha una finestra di contesto di 256K ed è di Tencent. Un contesto di 256K significa che input lunghi aumentano la latenza del primo token. Per output lunghi, porta il timeout a 60 secondi o più. Aggiungi un livello di cache, così le richieste ripetute non arrivano tutte al modello.

Come prevenire 503 su hy3 in anticipo?

Tieni pronto anche un modello di riserva. Questo modello di Tencent ha più nodi upstream tra cui il gateway può commutare. Metti il nome del modello in configurazione, così cambiare upstream non richiede modifiche al codice.

Altri errori su questo modello

Altri modelli con lo stesso errore

Torna alla pagina del modello

Dati aggiornati: 2026-10-11 19:15

Supporto tecnicoAssistenza online
Torna in alto