Errore 502: cosa fare quando qwen-turbo fallisce

Un 502 significa che il gateway ha ricevuto una risposta non valida dal servizio modello a monte: la richiesta ha raggiunto il gateway, ma il salto verso monte è fallito.

502 Bad Gateway significa che il gateway ha ricevuto una risposta non valida dal servizio upstream del modello. La richiesta ha raggiunto il gateway; l’errore è avvenuto nel salto verso l’upstream, di solito per il riavvio di un nodo o una connessione interrotta.

qwen-turbo è fornito da Alibaba. Tutto in questa pagina — cause, soluzioni e dati misurati — è ricavato dal comportamento reale di questo modello al livello del gateway.

Su questo gateway, la causa più comune è: Il servizio modello a monte è indisponibile o ha risposto in modo malformato. La prima azione consigliata è: Riprova una volta: i 502 sono di solito temporanei.

Cause comuni

  • Il servizio modello a monte è indisponibile o ha risposto in modo malformato
  • Un nodo a monte si sta riavviando
  • La connessione tra gateway e monte è stata interrotta
  • Il modello è stato temporaneamente disattivato

Come risolvere

  • Riprova una volta: i 502 sono di solito temporanei
  • Passa a un modello equivalente di un altro fornitore
  • Se solo un modello dà 502, il suo monte è in difficoltà
  • Riprova più tardi o contattaci

Retry con backoff esponenziale

Il codice qui sotto ritenta quando qwen-turbo restituisce 502: fino a 5 tentativi, con attesa crescente e jitter casuale per evitare che le chiamate concorrenti ritentino insieme. Leggi base URL e API key dalle variabili d’ambiente, non inserirle hardcoded.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'qwen-turbo'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Dati chiave di questo modello

Endpoint APIhttps://api.airai.cc/v1
Compatibile con OpenAIOpenAI-compatible
FornitoreAlibaba
Contesto1M
FunzionalitàReasoning, Tools
Formati APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Formula di fatturazionep * 0.05 + c * 0.5) : tier("standard", p * 0.05 + c * 0.2

Domande frequenti

Mi verrà addebitato qualcosa quando qwen-turbo restituisce 502?

Nessun addebito: conta solo l’output effettivamente generato. Viene fatturato solo l’output già prodotto, non la parte fallita. Con fatturazione p * 0.05 + c * 0.5) : tier("standard", p * 0.05 + c * 0.2, il costo degli output lunghi deriva soprattutto dai token di output. Controlla prima saldo e limiti di velocità nella console, poi il codice. Stimando il costo da p * 0.05 + c * 0.5) : tier("standard", p * 0.05 + c * 0.2, includi anche il budget per i ritenti.

Mettere in cache i risultati riduce 502?

Qui le vere variabili sono la concorrenza e i timeout, non il modello. Abbassa prima la concorrenza: la maggior parte dei problemi di throughput scompare. Un contesto di 1M significa che input lunghi aumentano la latenza del primo token. Per output lunghi, porta il timeout a 60 secondi o più. Aggiungi un livello di cache, così le richieste ripetute non arrivano tutte al modello.

Con più nodi upstream, il gateway commuta da solo su 502?

Questo errore non dipende dalle capacità del modello, è a livello di gateway. I tag di capacità di questo modello sono Reasoning, Tools. Se l’errore continua per diversi minuti, contatta il supporto della piattaforma per confermare lo stato upstream. Stabilisci prima se è a livello di account o di modello: i due casi si gestiscono in modo completamente diverso.

Come prevenire 502 su qwen-turbo in anticipo?

Un fallback a livello di architettura è più affidabile che correggere ogni errore uno per uno. Questo modello di Alibaba ha più nodi upstream tra cui il gateway può commutare. Tieni pronto un modello di riserva più leggero, così il flusso principale non si interrompe.

Altri errori su questo modello

Altri modelli con lo stesso errore

Torna alla pagina del modello

Dati aggiornati: 2026-10-11 19:15

Supporto tecnicoAssistenza online
Torna in alto