Errore 503: cosa fare quando gemini-2.5-flash-lite fallisce

Un 503 significa che il servizio è temporaneamente non disponibile, di solito per manutenzione o sovraccarico. A differenza del 429, non riguarda la tua quota: è un problema di capacità lato server.

503 Service Unavailable significa che il servizio non può gestire la richiesta ora, di solito per sovraccarico o manutenzione. La distinzione con 429 conta: 429 significa che la quota è esaurita, 503 che manca capacità server. Aumenta l’intervallo di backoff invece di cambiare key.

gemini-2.5-flash-lite è fornito da Google. Tutto in questa pagina — cause, soluzioni e dati misurati — è ricavato dal comportamento reale di questo modello al livello del gateway.

Su questo gateway, la causa più comune è: Il modello a monte è sovraccarico. La prima azione consigliata è: Riprova più tardi con un backoff più lungo.

Cause comuni

  • Il modello a monte è sovraccarico
  • Il servizio è in manutenzione o in rilascio
  • Il nodo della tua regione non è disponibile
  • Un picco improvviso di traffico

Come risolvere

  • Riprova più tardi con un backoff più lungo
  • Passa a un modello equivalente meno carico
  • Evita i job in batch nelle ore di punta
  • Segui i nostri annunci

Retry con backoff esponenziale

Il codice qui sotto ritenta quando gemini-2.5-flash-lite restituisce 503: fino a 5 tentativi, con attesa crescente e jitter casuale per evitare che le chiamate concorrenti ritentino insieme. Leggi base URL e API key dalle variabili d’ambiente, non inserirle hardcoded.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'gemini-2.5-flash-lite'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Dati chiave di questo modello

TPS380.8
Latenza media1486 ms
Tasso di successo100%
Endpoint APIhttps://api.airai.cc/v1
Compatibile con OpenAIOpenAI-compatible
FornitoreGoogle
Contesto1M
FunzionalitàReasoning, Tools, Files, Vision, Audio
Formati APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Formula di fatturazionep * 0.1 + cr * 0.01 + ai * 0.3 + c * 0.4

Domande frequenti

503 può causare perdita di dati?

Questo errore non dipende dalle capacità del modello, è a livello di gateway. I tag di capacità di questo modello sono Reasoning, Tools, Files, Vision, Audio. Con un tasso di successo di 100%, un 503 occasionale è normale variabilità. Se l’errore continua per diversi minuti, contatta il supporto della piattaforma per confermare lo stato upstream. Stabilisci prima se è a livello di account o di modello: i due casi si gestiscono in modo completamente diverso.

Condividere una key tra più servizi rende 503 più probabile?

È soprattutto una questione di quota, non un guasto del modello. Con fatturazione p * 0.1 + cr * 0.01 + ai * 0.3 + c * 0.4, il costo degli output lunghi deriva soprattutto dai token di output. Controlla prima saldo e limiti di velocità nella console, poi il codice.

Come uso l’header Retry-After nella risposta?

Di solito non serve cambiare il codice, solo il ritmo delle chiamate. Riprovare è il primo passo più efficace. Il tasso di successo misurato è 100%, quindi il primo ritento dà il beneficio marginale maggiore. Con la fatturazione p * 0.1 + cr * 0.01 + ai * 0.3 + c * 0.4, le richieste fallite non rientrano nel consumo. Imposta il limite di ritenti a 3–5 e aggiungi del jitter. Usa il backoff esponenziale per gli errori ritentabili e restituisci subito l’errore per gli altri.

Passare a un modello più piccolo riduce 503?

Tieni pronto anche un modello di riserva. Un fallback a livello di architettura è più affidabile che correggere ogni errore uno per uno. Questo modello di Google ha più nodi upstream tra cui il gateway può commutare. Metti il nome del modello in configurazione, così cambiare upstream non richiede modifiche al codice.

Altri errori su questo modello

Altri modelli con lo stesso errore

Torna alla pagina del modello

Dati aggiornati: 2026-10-10 12:10

Supporto tecnicoAssistenza online
Torna in alto