Errore 504: cosa fare quando gemini-flash-latest fallisce

Un 504 significa che il gateway è andato in timeout attendendo il modello a monte: la richiesta è stata inviata, ma il monte non ha risposto entro il timeout del gateway.

504 Gateway Timeout significa che il gateway ha smesso di attendere la risposta dell’upstream. La richiesta è stata inoltrata, ma nessun risultato è tornato entro il limite. Accorciare l’output, attivare lo streaming o ridurre max_tokens di solito risolve.

gemini-flash-latest è fornito da Google. Tutto in questa pagina — cause, soluzioni e dati misurati — è ricavato dal comportamento reale di questo modello al livello del gateway.

Su questo gateway, la causa più comune è: Il monte ha impiegato più del timeout consentito dal gateway. La prima azione consigliata è: Passa all'output in streaming.

Cause comuni

  • Il monte ha impiegato più del timeout consentito dal gateway
  • Un contesto lungo ha aumentato il tempo di inferenza
  • Un nodo a monte è bloccato
  • Una richiesta non in streaming con output molto lungo

Come risolvere

  • Passa all'output in streaming
  • Accorcia il contesto e riduci max_tokens
  • Riprova dopo una breve attesa
  • Usa un modello con inferenza più rapida

Retry con backoff esponenziale

Il codice qui sotto ritenta quando gemini-flash-latest restituisce 504: fino a 5 tentativi, con attesa crescente e jitter casuale per evitare che le chiamate concorrenti ritentino insieme. Leggi base URL e API key dalle variabili d’ambiente, non inserirle hardcoded.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'gemini-flash-latest'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Dati chiave di questo modello

Endpoint APIhttps://api.airai.cc/v1
Compatibile con OpenAIOpenAI-compatible
FornitoreGoogle
Contesto1M
FunzionalitàReasoning, Tools, Files, Vision, Audio
Formati APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Formula di fatturazionep * 0.75 + cr * 0.075 + ai * 0.75 + c * 3.75

Domande frequenti

504 è legato alle capacità del modello stesso?

Questo errore non dipende dalle capacità del modello, è a livello di gateway. Di solito è momentaneo e si risolve da sé. I tag di capacità di questo modello sono Reasoning, Tools, Files, Vision, Audio. Se l’errore continua per diversi minuti, contatta il supporto della piattaforma per confermare lo stato upstream. Stabilisci prima se è a livello di account o di modello: i due casi si gestiscono in modo completamente diverso.

Un max_tokens troppo alto può causare 504?

I parametri vanno cambiati; riprovare da solo non aiuterà. È un problema di configurazione lato client; lato server non cambia nulla. I tag delle capacità sono Reasoning, Tools, Files, Vision, Audio e i limiti dei parametri derivano da quel set. La finestra di contesto 1M stabilisce l’input massimo per richiesta; oltre viene rifiutato subito. Sugli errori di parametro fallisci subito invece di sprecare ritenti. Tronca o riassumi gli input lunghi: riduce notevolmente 504.

Cambiare modello permette di evitare 504 su gemini-flash-latest?

Un fallback a livello di architettura è più affidabile che correggere ogni errore uno per uno. Questo modello di Google ha più nodi upstream tra cui il gateway può commutare. Metti il nome del modello in configurazione, così cambiare upstream non richiede modifiche al codice.

Mettere in cache i risultati riduce 504?

Qui le vere variabili sono la concorrenza e i timeout, non il modello. Abbassa prima la concorrenza: la maggior parte dei problemi di throughput scompare. Questo modello ha una finestra di contesto di 1M ed è di Google. Un contesto di 1M significa che input lunghi aumentano la latenza del primo token. Aggiungi un livello di cache, così le richieste ripetute non arrivano tutte al modello.

Altri errori su questo modello

Altri modelli con lo stesso errore

Torna alla pagina del modello

Dati aggiornati: 2026-10-10 12:10

Supporto tecnicoAssistenza online
Torna in alto