Errore 429: cosa fare quando gemini-3.5-flash fallisce

Un 429 significa che è scattato un limite di frequenza: il numero di richieste o token in una finestra temporale ha superato la quota del tuo piano.

429 Too Many Requests è una risposta di rate limiting, non un errore. La richiesta è valida, ma supera la frequenza o la concorrenza consentite dal tuo piano. Basta ritentare rispettando la finestra indicata negli header; il body non va modificato.

gemini-3.5-flash è fornito da Google. Tutto in questa pagina — cause, soluzioni e dati misurati — è ricavato dal comportamento reale di questo modello al livello del gateway.

Su questo gateway, la causa più comune è: Troppe richieste simultanee. La prima azione consigliata è: Limitare la concorrenza e ritentare con backoff esponenziale.

Cause comuni

  • Troppe richieste simultanee
  • Quota del piano attuale esaurita
  • Nuovo tentativo senza attesa

Come risolvere

  • Limitare la concorrenza e ritentare con backoff esponenziale
  • Passare a un piano con quota maggiore
  • Mettere in cache le richieste ripetute

Retry con backoff esponenziale

Il codice qui sotto ritenta quando gemini-3.5-flash restituisce 429: fino a 5 tentativi, con attesa crescente e jitter casuale per evitare che le chiamate concorrenti ritentino insieme. Leggi base URL e API key dalle variabili d’ambiente, non inserirle hardcoded.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'gemini-3.5-flash'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Dati chiave di questo modello

TPS1669.89
Latenza media3330 ms
Tasso di successo100%
Endpoint APIhttps://api.airai.cc/v1
Compatibile con OpenAIOpenAI-compatible
FornitoreGoogle
Contesto1M
FunzionalitàReasoning, Tools, Files, Vision, Audio
Formati APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Formula di fatturazionep * 1.5 + cr * 0.15 + ai * 1.5 + c * 9

Domande frequenti

Quanta concorrenza è sicura?

Qui le vere variabili sono la concorrenza e i timeout, non il modello. Il throughput misurato è 1669.89, un tetto utile per la concorrenza. Un contesto di 1M significa che input lunghi aumentano la latenza del primo token. Per output lunghi, porta il timeout a 60 secondi o più. Aggiungi un livello di cache, così le richieste ripetute non arrivano tutte al modello.

Quanti tentativi di retry sono ragionevoli?

Di solito non serve cambiare il codice, solo il ritmo delle chiamate. Riprovare è il primo passo più efficace. Con la fatturazione p * 1.5 + cr * 0.15 + ai * 1.5 + c * 9, le richieste fallite non rientrano nel consumo. Imposta il limite di ritenti a 3–5 e aggiungi del jitter. Usa il backoff esponenziale per gli errori ritentabili e restituisci subito l’errore per gli altri.

Conviene passare a un modello di riserva quando compare 429?

Un fallback a livello di architettura è più affidabile che correggere ogni errore uno per uno. Questo modello di Google ha più nodi upstream tra cui il gateway può commutare. Metti il nome del modello in configurazione, così cambiare upstream non richiede modifiche al codice.

Un contesto lungo rende 429 più probabile?

I parametri vanno cambiati; riprovare da solo non aiuterà. È un problema di configurazione lato client; lato server non cambia nulla. I tag delle capacità sono Reasoning, Tools, Files, Vision, Audio e i limiti dei parametri derivano da quel set. Sugli errori di parametro fallisci subito invece di sprecare ritenti. Tronca o riassumi gli input lunghi: riduce notevolmente 429.

Altri errori su questo modello

Altri modelli con lo stesso errore

Torna alla pagina del modello

Dati aggiornati: 2026-10-10 18:35

Supporto tecnicoAssistenza online
Torna in alto