Error 504: qué hacer cuando falla claude-fable-5.1

Un 504 significa que la pasarela agotó el tiempo de espera del modelo de origen: la solicitud se envió, pero el origen no respondió dentro del tiempo límite de la pasarela.

504 Gateway Timeout significa que el gateway dejó de esperar la respuesta del upstream. La solicitud se reenvió, pero no volvió ningún resultado dentro del límite del gateway. Acortar la salida, activar streaming o bajar max_tokens suele resolverlo.

claude-fable-5.1 lo ofrece Anthropic. Todo en esta página — causas, soluciones y datos medidos — se recopila del comportamiento real de este modelo en la capa de gateway.

En esta pasarela, el desencadenante más común es: El origen tardó más de lo que permite el tiempo límite de la pasarela. La primera acción recomendada es: Cambia a salida en streaming.

Causas habituales

  • El origen tardó más de lo que permite el tiempo límite de la pasarela
  • Un contexto largo elevó el tiempo de inferencia
  • Un nodo de origen se quedó bloqueado
  • Una solicitud sin streaming con una salida muy larga

Cómo solucionarlo

  • Cambia a salida en streaming
  • Acorta el contexto y baja max_tokens
  • Reintenta tras una breve espera
  • Usa un modelo con inferencia más rápida

Reintento con retroceso exponencial

El siguiente código reintenta cuando claude-fable-5.1 devuelve 504: hasta 5 intentos, con espera creciente y jitter aleatorio para que las llamadas concurrentes no reintenten a la vez. Lee la URL base y la API key de variables de entorno, nunca las escribas fijas.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'claude-fable-5.1'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Datos clave de este modelo

Endpoint de APIhttps://api.airai.cc/v1
Compatible con OpenAIOpenAI-compatible
ProveedorAnthropic
Formatos de APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Descuento por caché0.025×

Preguntas frecuentes

¿Compartir una key entre varios servicios hace más probable 504?

Es sobre todo un asunto de cuota, no un fallo del modelo. Tanto subir el límite del plan como bajar la frecuencia de llamadas ayuda. El precio de entrada ronda $10.00 por millón de tokens. Revisa primero el saldo y los límites de velocidad en la consola, luego el código. Al estimar el coste con , incluye también el presupuesto de reintentos.

¿Está 504 relacionado con la facturación de claude-fable-5.1?

No se cobra: solo cuenta para el consumo la salida realmente generada. Solo se cobra la salida ya generada; la parte fallida no. El precio de entrada ronda $10.00 por millón de tokens. Al estimar el coste con , incluye también el presupuesto de reintentos.

¿Debería cambiar a un modelo de respaldo cuando aparece 504?

Un respaldo a nivel de arquitectura es más fiable que parchear cada error por separado. Este modelo de Anthropic tiene varios nodos upstream entre los que el gateway puede alternar. Ten listo un modelo de respaldo más ligero para que el flujo principal no se corte. Pon el nombre del modelo en configuración; así cambiar de upstream no requiere tocar código.

¿Las solicitudes concurrentes deben ir en cola o limitarse directamente?

Aquí las variables reales son la concurrencia y los timeouts, no el modelo. Baja primero la concurrencia: la mayoría de los problemas de rendimiento desaparecen. Para salidas largas, sube el timeout a 60 segundos o más.

Otros errores de este modelo

Otros modelos con el mismo error

Volver a la página del modelo

Datos actualizados: 2026-10-10 12:10

Soporte técnicoSoporte en línea
Volver arriba