Error 502: qué hacer cuando falla qwq-32b

Un 502 significa que la pasarela recibió una respuesta no válida del servicio de modelo de origen: la solicitud llegó a la pasarela, pero el salto al origen falló.

502 Bad Gateway significa que el gateway recibió una respuesta inválida del servicio upstream del modelo. La solicitud llegó al gateway; el fallo ocurrió en el salto del gateway al upstream, normalmente por un reinicio del nodo o una conexión cortada.

qwq-32b lo ofrece 阿里巴巴. Todo en esta página — causas, soluciones y datos medidos — se recopila del comportamiento real de este modelo en la capa de gateway.

En esta pasarela, el desencadenante más común es: El servicio de modelo de origen no está disponible o devolvió una respuesta mal formada. La primera acción recomendada es: Reintenta una vez: los 502 suelen ser transitorios.

Causas habituales

  • El servicio de modelo de origen no está disponible o devolvió una respuesta mal formada
  • Un nodo de origen se está reiniciando
  • Se interrumpió la conexión entre la pasarela y el origen
  • El modelo se retiró temporalmente

Cómo solucionarlo

  • Reintenta una vez: los 502 suelen ser transitorios
  • Cambia a un modelo equivalente de otro proveedor
  • Si solo un modelo devuelve 502, su origen está fallando
  • Inténtalo más tarde o escríbenos

Reintento con retroceso exponencial

El siguiente código reintenta cuando qwq-32b devuelve 502: hasta 5 intentos, con espera creciente y jitter aleatorio para que las llamadas concurrentes no reintenten a la vez. Lee la URL base y la API key de variables de entorno, nunca las escribas fijas.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'qwq-32b'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Datos clave de este modelo

Endpoint de APIhttps://api.airai.cc/v1
Compatible con OpenAIOpenAI-compatible
Proveedor阿里巴巴
Contexto131.1K
CapacidadesReasoning, Tools, Open Weights
Formatos de APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Fórmula de facturaciónp * 0.287 + c * 0.861

Preguntas frecuentes

¿Está 502 en qwq-32b relacionado con el tamaño del cuerpo?

Es un problema de configuración del cliente; el servidor no necesita cambios. Las etiquetas de capacidades son Reasoning, Tools, Open Weights y de ahí derivan los límites de parámetros. La ventana de contexto 131.1K fija la entrada máxima por petición; lo que la supere se rechaza directamente. Para errores de parámetros, falla rápido en lugar de gastar reintentos.

¿Cuentan las solicitudes fallidas para mi cuota de límites?

No se cobra: solo cuenta para el consumo la salida realmente generada. Solo se cobra la salida ya generada; la parte fallida no. La facturación sigue p * 0.287 + c * 0.861: sin salida no hay cargo. Al estimar el coste con p * 0.287 + c * 0.861, incluye también el presupuesto de reintentos.

¿Cambiar a un modelo más pequeño reduce 502?

Tenga también un modelo de reserva preparado. Este modelo de 阿里巴巴 tiene varios nodos upstream entre los que el gateway puede alternar. Ten listo un modelo de respaldo más ligero para que el flujo principal no se corte. Pon el nombre del modelo en configuración; así cambiar de upstream no requiere tocar código.

¿Cómo planificar trabajos por lotes cuando qwq-32b devuelve 502?

Aquí las variables reales son la concurrencia y los timeouts, no el modelo. Baja primero la concurrencia: la mayoría de los problemas de rendimiento desaparecen. Este modelo tiene una ventana de contexto de 131.1K y es de 阿里巴巴. Un contexto de 131.1K implica que las entradas largas aumentan la latencia del primer token. Suaviza los picos con lotes o una cola: es más estable que subir la concurrencia sobre la marcha.

Otros errores de este modelo

Otros modelos con el mismo error

Volver a la página del modelo

Datos actualizados: 2026-10-10 18:35

Soporte técnicoSoporte en línea
Volver arriba