Error 504: qué hacer cuando falla gemini-3.6-flash

Un 504 significa que la pasarela agotó el tiempo de espera del modelo de origen: la solicitud se envió, pero el origen no respondió dentro del tiempo límite de la pasarela.

504 Gateway Timeout significa que el gateway dejó de esperar la respuesta del upstream. La solicitud se reenvió, pero no volvió ningún resultado dentro del límite del gateway. Acortar la salida, activar streaming o bajar max_tokens suele resolverlo.

gemini-3.6-flash lo ofrece Google. Todo en esta página — causas, soluciones y datos medidos — se recopila del comportamiento real de este modelo en la capa de gateway.

En esta pasarela, el desencadenante más común es: El origen tardó más de lo que permite el tiempo límite de la pasarela. La primera acción recomendada es: Cambia a salida en streaming.

Causas habituales

  • El origen tardó más de lo que permite el tiempo límite de la pasarela
  • Un contexto largo elevó el tiempo de inferencia
  • Un nodo de origen se quedó bloqueado
  • Una solicitud sin streaming con una salida muy larga

Cómo solucionarlo

  • Cambia a salida en streaming
  • Acorta el contexto y baja max_tokens
  • Reintenta tras una breve espera
  • Usa un modelo con inferencia más rápida

Reintento con retroceso exponencial

El siguiente código reintenta cuando gemini-3.6-flash devuelve 504: hasta 5 intentos, con espera creciente y jitter aleatorio para que las llamadas concurrentes no reintenten a la vez. Lee la URL base y la API key de variables de entorno, nunca las escribas fijas.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'gemini-3.6-flash'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Datos clave de este modelo

Endpoint de APIhttps://api.airai.cc/v1
Compatible con OpenAIOpenAI-compatible
ProveedorGoogle
Contexto1M
CapacidadesReasoning, Tools, Files, Vision, Audio
Formatos de APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Fórmula de facturaciónp * 0.75 + cr * 0.075 + ai * 0.75 + c * 3.75

Preguntas frecuentes

Cuando gemini-3.6-flash devuelve 504, ¿es más probable el gateway o el upstream?

Suele ser algo puntual que se recupera por sí solo. Las etiquetas de capacidad de este modelo son Reasoning, Tools, Files, Vision, Audio. Si el error se mantiene varios minutos, contacta con el soporte de la plataforma para confirmar el estado del upstream. Decide primero si es a nivel de cuenta o de modelo; el tratamiento es completamente distinto.

¿Está 504 en gemini-3.6-flash relacionado con el tamaño del cuerpo?

Hay que cambiar los parámetros; reintentar por sí solo no ayudará. Es un problema de configuración del cliente; el servidor no necesita cambios. Las etiquetas de capacidades son Reasoning, Tools, Files, Vision, Audio y de ahí derivan los límites de parámetros. La ventana de contexto 1M fija la entrada máxima por petición; lo que la supere se rechaza directamente. Para errores de parámetros, falla rápido en lugar de gastar reintentos.

¿Cuánto debe durar el intervalo de reintento cuando gemini-3.6-flash devuelve 504?

Normalmente no hay que cambiar el código, basta con ajustar el ritmo de llamadas. Reintentar es el primer paso más eficaz. Con la tarificación p * 0.75 + cr * 0.075 + ai * 0.75 + c * 3.75, las peticiones fallidas no cuentan en el uso. Fija el límite de reintentos en 3–5 y añade jitter.

¿Compartir una key entre varios servicios hace más probable 504?

Es sobre todo un asunto de cuota, no un fallo del modelo. Tanto subir el límite del plan como bajar la frecuencia de llamadas ayuda. Con facturación p * 0.75 + cr * 0.075 + ai * 0.75 + c * 3.75, el coste de salidas largas viene sobre todo de los tokens de salida. Con la tarificación p * 0.75 + cr * 0.075 + ai * 0.75 + c * 3.75, las peticiones fallidas no cuentan en el uso. Al estimar el coste con p * 0.75 + cr * 0.075 + ai * 0.75 + c * 3.75, incluye también el presupuesto de reintentos.

Otros errores de este modelo

Otros modelos con el mismo error

Volver a la página del modelo

Datos actualizados: 2026-10-10 15:40

Soporte técnicoSoporte en línea
Volver arriba