Erreur 503 : que faire quand gemini-3.5-flash échoue

Un 503 signifie que le service est temporairement indisponible, généralement pour maintenance ou surcharge. Contrairement au 429, ce n'est pas votre quota : c'est un problème de capacité côté serveur.

503 Service Unavailable signifie que le service ne peut pas traiter la requête maintenant, généralement pour surcharge ou maintenance. La distinction avec 429 compte : 429 signifie que votre quota est épuisé, 503 que la capacité serveur manque. Augmentez l’intervalle de backoff plutôt que de changer de clé.

gemini-3.5-flash est fourni par Google. Tout sur cette page — causes, correctifs et données mesurées — est établi à partir du comportement réel de ce modèle au niveau de la passerelle.

Sur cette passerelle, le déclencheur le plus courant est : Le modèle amont est surchargé. La première action recommandée : Réessayez plus tard avec un délai plus long.

Causes fréquentes

  • Le modèle amont est surchargé
  • Le service est en maintenance ou en déploiement
  • Le nœud de votre région est indisponible
  • Un pic soudain de trafic

Comment corriger

  • Réessayez plus tard avec un délai plus long
  • Passez à un modèle équivalent moins chargé
  • Évitez les traitements par lots aux heures de pointe
  • Surveillez nos annonces

Nouvelle tentative avec backoff exponentiel

Le code ci-dessous réessaie lorsque gemini-3.5-flash renvoie 503 : jusqu’à 5 tentatives, avec une attente croissante et un jitter aléatoire pour éviter que les appels concurrents ne réessaient simultanément. Lisez l’URL de base et la clé API depuis les variables d’environnement, ne les écrivez jamais en dur.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'gemini-3.5-flash'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Données clés de ce modèle

TPS1669.89
Latence moyenne3330 ms
Taux de réussite100%
Point de terminaison APIhttps://api.airai.cc/v1
Compatible OpenAIOpenAI-compatible
FournisseurGoogle
Contexte1M
CapacitésReasoning, Tools, Files, Vision, Audio
Formats d’APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Formule de facturationp * 1.5 + cr * 0.15 + ai * 1.5 + c * 9

Questions fréquentes

Comment planifier les tâches batch quand gemini-3.5-flash renvoie 503 ?

Ici les vraies variables sont la concurrence et les délais d’attente, pas le modèle. Baissez d’abord la concurrence : la plupart des problèmes de débit disparaissent ensuite. Ce modèle dispose d’une fenêtre de contexte de 1M et vient de Google. Un contexte de 1M signifie que les longues entrées allongent nettement la latence du premier token. Pour les longues sorties, portez le délai d’attente à 60 secondes ou plus.

Avec plusieurs nœuds upstream, la passerelle bascule-t-elle seule sur 503 ?

Cette erreur ne dépend pas de la capacité du modèle, elle est au niveau de la passerelle. C’est généralement passager et se rétablit tout seul. Les balises de capacité de ce modèle sont Reasoning, Tools, Files, Vision, Audio. Avec un taux de réussite de 100%, un 503 occasionnel est une variation normale. Si l’erreur persiste plusieurs minutes, contactez le support de la plateforme pour confirmer l’état en amont. Déterminez d’abord si c’est au niveau du compte ou du modèle ; les deux demandent un traitement totalement différent.

Faut-il basculer sur un modèle de secours quand 503 apparaît ?

Gardez aussi un modèle de repli prêt. Ce modèle de Google dispose de plusieurs nœuds upstream entre lesquels la passerelle peut basculer. Gardez un modèle de repli plus léger, le flux principal ne sera jamais interrompu. Mettez le nom du modèle en configuration : changer d’amont ne demande alors aucune modification de code.

Serai-je facturé lorsque gemini-3.5-flash renvoie 503 ?

Seule la sortie déjà produite est facturée, pas la partie échouée. Le prix d’entrée est d’environ $1.50 par million de tokens. Avec la facturation p * 1.5 + cr * 0.15 + ai * 1.5 + c * 9, les requêtes échouées ne sont pas comptées dans l’usage. Vérifiez d’abord le solde et les limites de débit dans la console, ensuite le code. En estimant le coût à partir de p * 1.5 + cr * 0.15 + ai * 1.5 + c * 9, incluez aussi le budget de relances.

Autres erreurs sur ce modèle

Autres modèles avec la même erreur

Retour à la page du modèle

Données mises à jour: 2026-10-10 18:35

Support techniqueAssistance en ligne
Haut de page