Erreur 502 : que faire quand gemini-3.1-flash-lite-preview échoue

Un 502 signifie que la passerelle a reçu une réponse invalide du service de modèle amont : la requête a atteint la passerelle, mais le saut vers l'amont a échoué.

502 Bad Gateway signifie que la passerelle a reçu une réponse invalide du service upstream du modèle. La requête a atteint la passerelle ; l’échec s’est produit sur le saut vers l’upstream, généralement à cause d’un redémarrage de nœud ou d’une connexion coupée.

gemini-3.1-flash-lite-preview est fourni par Google. Tout sur cette page — causes, correctifs et données mesurées — est établi à partir du comportement réel de ce modèle au niveau de la passerelle.

Sur cette passerelle, le déclencheur le plus courant est : Le service de modèle amont est indisponible ou a renvoyé une réponse mal formée. La première action recommandée : Réessayez une fois : les 502 sont généralement passagères.

Causes fréquentes

  • Le service de modèle amont est indisponible ou a renvoyé une réponse mal formée
  • Un nœud amont redémarre
  • La connexion entre la passerelle et l'amont a été interrompue
  • Le modèle a été temporairement retiré

Comment corriger

  • Réessayez une fois : les 502 sont généralement passagères
  • Passez à un modèle équivalent d'un autre fournisseur
  • Si un seul modèle renvoie 502, son amont est en panne
  • Réessayez plus tard ou contactez-nous

Nouvelle tentative avec backoff exponentiel

Le code ci-dessous réessaie lorsque gemini-3.1-flash-lite-preview renvoie 502 : jusqu’à 5 tentatives, avec une attente croissante et un jitter aléatoire pour éviter que les appels concurrents ne réessaient simultanément. Lisez l’URL de base et la clé API depuis les variables d’environnement, ne les écrivez jamais en dur.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'gemini-3.1-flash-lite-preview'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Données clés de ce modèle

TPS437.37
Latence moyenne1194 ms
Taux de réussite100%
Point de terminaison APIhttps://api.airai.cc/v1
Compatible OpenAIOpenAI-compatible
FournisseurGoogle
Contexte1M
CapacitésReasoning, Tools, Files, Vision, Audio
Formats d’APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Formule de facturationp * 0.25 + cr * 0.025 + ai * 0.5 + c * 1.5

Questions fréquentes

Backoff exponentiel ou intervalle fixe ?

Réessayer est la première étape la plus efficace. Le taux de succès mesuré est de 100% : la première relance apporte donc le plus grand bénéfice. Avec la facturation p * 0.25 + cr * 0.025 + ai * 0.5 + c * 1.5, les requêtes échouées ne sont pas comptées dans l’usage. Fixez la limite de relances à 3–5 et ajoutez du jitter. Utilisez un backoff exponentiel pour les erreurs relançables et renvoyez l’erreur immédiatement pour les autres.

Passer à un modèle plus petit réduit-il 502 ?

Gardez aussi un modèle de repli prêt. Un repli intégré à l’architecture est plus fiable que de corriger chaque erreur séparément. Ce modèle de Google dispose de plusieurs nœuds upstream entre lesquels la passerelle peut basculer. Mettez le nom du modèle en configuration : changer d’amont ne demande alors aucune modification de code.

Partager une clé entre plusieurs services rend-il 502 plus probable ?

Il s’agit surtout d’un quota, non d’une panne du modèle. Relever le plafond de la formule ou baisser la fréquence des appels : les deux aident. Avec la facturation p * 0.25 + cr * 0.025 + ai * 0.5 + c * 1.5, les requêtes échouées ne sont pas comptées dans l’usage. Vérifiez d’abord le solde et les limites de débit dans la console, ensuite le code. En estimant le coût à partir de p * 0.25 + cr * 0.025 + ai * 0.5 + c * 1.5, incluez aussi le budget de relances.

502 est-il lié à la facturation de gemini-3.1-flash-lite-preview ?

Aucune facturation : seule la sortie réellement produite compte dans l’usage. Le prix d’entrée est d’environ $0.25 par million de tokens. Avec la facturation p * 0.25 + cr * 0.025 + ai * 0.5 + c * 1.5, les requêtes échouées ne sont pas comptées dans l’usage. Vérifiez d’abord le solde et les limites de débit dans la console, ensuite le code. En estimant le coût à partir de p * 0.25 + cr * 0.025 + ai * 0.5 + c * 1.5, incluez aussi le budget de relances.

Autres erreurs sur ce modèle

Autres modèles avec la même erreur

Retour à la page du modèle

Données mises à jour: 2026-10-10 18:35

Support techniqueAssistance en ligne
Haut de page