Errore 502: cosa fare quando qvq-max fallisce

Un 502 significa che il gateway ha ricevuto una risposta non valida dal servizio modello a monte: la richiesta ha raggiunto il gateway, ma il salto verso monte è fallito.

502 Bad Gateway significa che il gateway ha ricevuto una risposta non valida dal servizio upstream del modello. La richiesta ha raggiunto il gateway; l’errore è avvenuto nel salto verso l’upstream, di solito per il riavvio di un nodo o una connessione interrotta.

qvq-max è fornito da Alibaba. Tutto in questa pagina — cause, soluzioni e dati misurati — è ricavato dal comportamento reale di questo modello al livello del gateway.

Su questo gateway, la causa più comune è: Il servizio modello a monte è indisponibile o ha risposto in modo malformato. La prima azione consigliata è: Riprova una volta: i 502 sono di solito temporanei.

Cause comuni

  • Il servizio modello a monte è indisponibile o ha risposto in modo malformato
  • Un nodo a monte si sta riavviando
  • La connessione tra gateway e monte è stata interrotta
  • Il modello è stato temporaneamente disattivato

Come risolvere

  • Riprova una volta: i 502 sono di solito temporanei
  • Passa a un modello equivalente di un altro fornitore
  • Se solo un modello dà 502, il suo monte è in difficoltà
  • Riprova più tardi o contattaci

Retry con backoff esponenziale

Il codice qui sotto ritenta quando qvq-max restituisce 502: fino a 5 tentativi, con attesa crescente e jitter casuale per evitare che le chiamate concorrenti ritentino insieme. Leggi base URL e API key dalle variabili d’ambiente, non inserirle hardcoded.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'qvq-max'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Dati chiave di questo modello

Endpoint APIhttps://api.airai.cc/v1
Compatibile con OpenAIOpenAI-compatible
FornitoreAlibaba
Contesto131.1K
FunzionalitàReasoning, Tools, Vision
Formati APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Formula di fatturazionep * 1.2 + c * 4.8

Domande frequenti

L’elaborazione asincrona o batch evita 502?

Qui le vere variabili sono la concorrenza e i timeout, non il modello. Abbassa prima la concorrenza: la maggior parte dei problemi di throughput scompare. Questo modello ha una finestra di contesto di 131.1K ed è di Alibaba. Per output lunghi, porta il timeout a 60 secondi o più. Appiana i picchi con batch o una coda: più stabile che alzare la concorrenza al volo.

Condividere una key tra più servizi rende 502 più probabile?

È soprattutto una questione di quota, non un guasto del modello. Sia alzare il limite del piano sia ridurre la frequenza delle chiamate aiuta. La fatturazione segue p * 1.2 + c * 4.8: senza output nessun addebito. Il prezzo di input è circa $1.20 per milione di token. Controlla prima saldo e limiti di velocità nella console, poi il codice.

I retry devono aggiungere jitter casuale?

Di solito non serve cambiare il codice, solo il ritmo delle chiamate. Riprovare è il primo passo più efficace. Con la fatturazione p * 1.2 + c * 4.8, le richieste fallite non rientrano nel consumo. Imposta il limite di ritenti a 3–5 e aggiungi del jitter. Usa il backoff esponenziale per gli errori ritentabili e restituisci subito l’errore per gli altri.

Un modello equivalente di un altro fornitore risolve 502?

Un fallback a livello di architettura è più affidabile che correggere ogni errore uno per uno. Questo modello di Alibaba ha più nodi upstream tra cui il gateway può commutare. Tieni pronto un modello di riserva più leggero, così il flusso principale non si interrompe.

Altri errori su questo modello

Altri modelli con lo stesso errore

Torna alla pagina del modello

Dati aggiornati: 2026-10-10 15:40

Supporto tecnicoAssistenza online
Torna in alto