Errore 502: cosa fare quando gpt-4o-mini fallisce

Un 502 significa che il gateway ha ricevuto una risposta non valida dal servizio modello a monte: la richiesta ha raggiunto il gateway, ma il salto verso monte è fallito.

502 Bad Gateway significa che il gateway ha ricevuto una risposta non valida dal servizio upstream del modello. La richiesta ha raggiunto il gateway; l’errore è avvenuto nel salto verso l’upstream, di solito per il riavvio di un nodo o una connessione interrotta.

gpt-4o-mini è fornito da OpenAI. Tutto in questa pagina — cause, soluzioni e dati misurati — è ricavato dal comportamento reale di questo modello al livello del gateway.

Su questo gateway, la causa più comune è: Il servizio modello a monte è indisponibile o ha risposto in modo malformato. La prima azione consigliata è: Riprova una volta: i 502 sono di solito temporanei.

Cause comuni

  • Il servizio modello a monte è indisponibile o ha risposto in modo malformato
  • Un nodo a monte si sta riavviando
  • La connessione tra gateway e monte è stata interrotta
  • Il modello è stato temporaneamente disattivato

Come risolvere

  • Riprova una volta: i 502 sono di solito temporanei
  • Passa a un modello equivalente di un altro fornitore
  • Se solo un modello dà 502, il suo monte è in difficoltà
  • Riprova più tardi o contattaci

Retry con backoff esponenziale

Il codice qui sotto ritenta quando gpt-4o-mini restituisce 502: fino a 5 tentativi, con attesa crescente e jitter casuale per evitare che le chiamate concorrenti ritentino insieme. Leggi base URL e API key dalle variabili d’ambiente, non inserirle hardcoded.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'gpt-4o-mini'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Dati chiave di questo modello

TPS260.87
Latenza media1408 ms
Tasso di successo100%
Endpoint APIhttps://api.airai.cc/v1
Compatibile con OpenAIOpenAI-compatible
FornitoreOpenAI
Contesto128K
FunzionalitàTools, Files, Vision
Formati APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Formula di fatturazionep * 0.15 + cr * 0.075 + c * 0.6

Domande frequenti

Quali codici vale la pena ritentare e quali mai?

Riprovare è il primo passo più efficace. Il tasso di successo misurato è 100%, quindi il primo ritento dà il beneficio marginale maggiore. Con la fatturazione p * 0.15 + cr * 0.075 + c * 0.6, le richieste fallite non rientrano nel consumo. Imposta il limite di ritenti a 3–5 e aggiungi del jitter. Usa il backoff esponenziale per gli errori ritentabili e restituisci subito l’errore per gli altri.

Un contesto lungo rende 502 più probabile?

I parametri vanno cambiati; riprovare da solo non aiuterà. La finestra di contesto 128K stabilisce l’input massimo per richiesta; oltre viene rifiutato subito. Sugli errori di parametro fallisci subito invece di sprecare ritenti.

502 influenza altri modelli dello stesso account?

Questo errore non dipende dalle capacità del modello, è a livello di gateway. Di solito è momentaneo e si risolve da sé. Con un tasso di successo di 100%, un 502 occasionale è normale variabilità. Se l’errore continua per diversi minuti, contatta il supporto della piattaforma per confermare lo stato upstream. Stabilisci prima se è a livello di account o di modello: i due casi si gestiscono in modo completamente diverso.

Un modello equivalente di un altro fornitore risolve 502?

Tieni pronto anche un modello di riserva. Un fallback a livello di architettura è più affidabile che correggere ogni errore uno per uno. Questo modello di OpenAI ha più nodi upstream tra cui il gateway può commutare. Tieni pronto un modello di riserva più leggero, così il flusso principale non si interrompe. Metti il nome del modello in configurazione, così cambiare upstream non richiede modifiche al codice.

Altri errori su questo modello

Altri modelli con lo stesso errore

Dati aggiornati: 2026-10-10 15:40

Supporto tecnicoAssistenza online
Torna in alto