Errore 502: cosa fare quando gemini-2.5-flash fallisce

Un 502 significa che il gateway ha ricevuto una risposta non valida dal servizio modello a monte: la richiesta ha raggiunto il gateway, ma il salto verso monte è fallito.

502 Bad Gateway significa che il gateway ha ricevuto una risposta non valida dal servizio upstream del modello. La richiesta ha raggiunto il gateway; l’errore è avvenuto nel salto verso l’upstream, di solito per il riavvio di un nodo o una connessione interrotta.

gemini-2.5-flash è fornito da Google. Tutto in questa pagina — cause, soluzioni e dati misurati — è ricavato dal comportamento reale di questo modello al livello del gateway.

Su questo gateway, la causa più comune è: Il servizio modello a monte è indisponibile o ha risposto in modo malformato. La prima azione consigliata è: Riprova una volta: i 502 sono di solito temporanei.

Cause comuni

  • Il servizio modello a monte è indisponibile o ha risposto in modo malformato
  • Un nodo a monte si sta riavviando
  • La connessione tra gateway e monte è stata interrotta
  • Il modello è stato temporaneamente disattivato

Come risolvere

  • Riprova una volta: i 502 sono di solito temporanei
  • Passa a un modello equivalente di un altro fornitore
  • Se solo un modello dà 502, il suo monte è in difficoltà
  • Riprova più tardi o contattaci

Retry con backoff esponenziale

Il codice qui sotto ritenta quando gemini-2.5-flash restituisce 502: fino a 5 tentativi, con attesa crescente e jitter casuale per evitare che le chiamate concorrenti ritentino insieme. Leggi base URL e API key dalle variabili d’ambiente, non inserirle hardcoded.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'gemini-2.5-flash'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Dati chiave di questo modello

Endpoint APIhttps://api.airai.cc/v1
Compatibile con OpenAIOpenAI-compatible
FornitoreGoogle
Contesto1M
FunzionalitàReasoning, Tools, Files, Vision, Audio
Formati APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Formula di fatturazionep * 0.3 + cr * 0.03 + ai * 1 + c * 2.5

Domande frequenti

Le richieste fallite rientrano nella quota di rate limit?

Nessun addebito: conta solo l’output effettivamente generato. Viene fatturato solo l’output già prodotto, non la parte fallita. La fatturazione segue p * 0.3 + cr * 0.03 + ai * 1 + c * 2.5: senza output nessun addebito. Con la fatturazione p * 0.3 + cr * 0.03 + ai * 1 + c * 2.5, le richieste fallite non rientrano nel consumo. Stimando il costo da p * 0.3 + cr * 0.03 + ai * 1 + c * 2.5, includi anche il budget per i ritenti.

Perché gemini-2.5-flash restituisce 502 solo in certe ore?

Raggruppa gli errori per orario e per nodo; lo schema di solito è evidente. Se accade solo in produzione, di solito è una differenza di ambiente, non il modello. Questo modello è servito da Google, quindi lo stato upstream segue gli annunci del fornitore. Registra l’id della richiesta a ogni fallimento: serve più del codice di stato. Riproduci il caso prima in ambiente di test con lo stesso corpo della richiesta.

Devo cambiare i parametri quando gemini-2.5-flash restituisce 502?

È un problema di configurazione lato client; lato server non cambia nulla. I tag delle capacità sono Reasoning, Tools, Files, Vision, Audio e i limiti dei parametri derivano da quel set. La finestra di contesto 1M stabilisce l’input massimo per richiesta; oltre viene rifiutato subito. Sugli errori di parametro fallisci subito invece di sprecare ritenti. Tronca o riassumi gli input lunghi: riduce notevolmente 502.

Quanta concorrenza è sicura?

Qui le vere variabili sono la concorrenza e i timeout, non il modello. Abbassa prima la concorrenza: la maggior parte dei problemi di throughput scompare. Questo modello ha una finestra di contesto di 1M ed è di Google. Un contesto di 1M significa che input lunghi aumentano la latenza del primo token. Per output lunghi, porta il timeout a 60 secondi o più. Parti da una concorrenza bassa, osserva per qualche minuto, poi aumenta.

Altri errori su questo modello

Altri modelli con lo stesso errore

Torna alla pagina del modello

Dati aggiornati: 2026-10-11 19:15

Supporto tecnicoAssistenza online
Torna in alto