Error 503: qué hacer cuando falla gemini-flash-latest

Un 503 significa que el servicio no está disponible temporalmente, normalmente por mantenimiento o sobrecarga. A diferencia del 429, no es tu cuota: es un problema de capacidad del lado del servidor.

503 Service Unavailable significa que el servicio no puede atender la solicitud ahora, normalmente por sobrecarga o mantenimiento. La diferencia con 429 importa: 429 es que se agotó tu cuota, 503 es que falta capacidad del servidor. Aumenta el intervalo de backoff en lugar de cambiar de key.

gemini-flash-latest lo ofrece Google. Todo en esta página — causas, soluciones y datos medidos — se recopila del comportamiento real de este modelo en la capa de gateway.

En esta pasarela, el desencadenante más común es: El modelo de origen está sobrecargado. La primera acción recomendada es: Reintenta más tarde con mayor espera entre intentos.

Causas habituales

  • El modelo de origen está sobrecargado
  • El servicio está en mantenimiento o desplegándose
  • El nodo de tu región no está disponible
  • Un pico repentino de tráfico

Cómo solucionarlo

  • Reintenta más tarde con mayor espera entre intentos
  • Cambia a un modelo equivalente con menos carga
  • Evita trabajos por lotes en horas punta
  • Atento a nuestros anuncios

Reintento con retroceso exponencial

El siguiente código reintenta cuando gemini-flash-latest devuelve 503: hasta 5 intentos, con espera creciente y jitter aleatorio para que las llamadas concurrentes no reintenten a la vez. Lee la URL base y la API key de variables de entorno, nunca las escribas fijas.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'gemini-flash-latest'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Datos clave de este modelo

Endpoint de APIhttps://api.airai.cc/v1
Compatible con OpenAIOpenAI-compatible
ProveedorGoogle
Contexto1M
CapacidadesReasoning, Tools, Files, Vision, Audio
Formatos de APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Fórmula de facturaciónp * 0.75 + cr * 0.075 + ai * 0.75 + c * 3.75

Preguntas frecuentes

¿Debo cambiar los parámetros cuando gemini-flash-latest devuelve 503?

Hay que cambiar los parámetros; reintentar por sí solo no ayudará. Las etiquetas de capacidades son Reasoning, Tools, Files, Vision, Audio y de ahí derivan los límites de parámetros. La ventana de contexto 1M fija la entrada máxima por petición; lo que la supere se rechaza directamente. Para errores de parámetros, falla rápido en lugar de gastar reintentos.

¿Cuentan las solicitudes fallidas para mi cuota de límites?

No se cobra: solo cuenta para el consumo la salida realmente generada. Solo se cobra la salida ya generada; la parte fallida no. La facturación sigue p * 0.75 + cr * 0.075 + ai * 0.75 + c * 3.75: sin salida no hay cargo. El precio de entrada ronda $0.75 por millón de tokens. Al estimar el coste con p * 0.75 + cr * 0.075 + ai * 0.75 + c * 3.75, incluye también el presupuesto de reintentos.

¿Puede 503 deberse a un proxy o a otro salto de red?

Agrupa los errores por tiempo y por nodo; el patrón suele ser evidente. Si solo ocurre en producción, suele ser una diferencia de entorno, no del modelo. Este modelo lo sirve Google, por lo que el estado del upstream depende de los anuncios del proveedor. Registra el identificador de la petición en cada fallo: ayuda más que el código de estado. Reproduce el caso primero en el entorno de pruebas con el mismo cuerpo de petición.

¿Está 503 en gemini-flash-latest relacionado con la cuota de mi cuenta?

Es sobre todo un asunto de cuota, no un fallo del modelo. Tanto subir el límite del plan como bajar la frecuencia de llamadas ayuda. Con facturación p * 0.75 + cr * 0.075 + ai * 0.75 + c * 3.75, el coste de salidas largas viene sobre todo de los tokens de salida. Con la tarificación p * 0.75 + cr * 0.075 + ai * 0.75 + c * 3.75, las peticiones fallidas no cuentan en el uso. Al estimar el coste con p * 0.75 + cr * 0.075 + ai * 0.75 + c * 3.75, incluye también el presupuesto de reintentos.

Otros errores de este modelo

Otros modelos con el mismo error

Volver a la página del modelo

Datos actualizados: 2026-10-10 12:10

Soporte técnicoSoporte en línea
Volver arriba