Erro 502: o que fazer quando qwq-32b falha

Um 502 significa que o gateway recebeu uma resposta inválida do serviço de modelo de origem: a requisição chegou ao gateway, mas o salto até a origem falhou.

502 Bad Gateway significa que o gateway recebeu uma resposta inválida do serviço upstream do modelo. A requisição chegou ao gateway; a falha ocorreu no salto até o upstream, geralmente por reinício de nó ou conexão interrompida.

qwq-32b é fornecido por 阿里巴巴. Tudo nesta página — causas, correções e dados medidos — é compilado a partir do comportamento real deste modelo na camada de gateway.

Neste gateway, o gatilho mais comum é: O serviço de modelo de origem está indisponível ou respondeu de forma malformada. A primeira ação recomendada é: Tente uma vez mais: os 502 costumam ser transitórios.

Causas comuns

  • O serviço de modelo de origem está indisponível ou respondeu de forma malformada
  • Um nó de origem está reiniciando
  • A conexão do gateway com a origem foi interrompida
  • O modelo foi temporariamente retirado do ar

Como resolver

  • Tente uma vez mais: os 502 costumam ser transitórios
  • Mude para um modelo equivalente de outro fornecedor
  • Se só um modelo retorna 502, a origem dele está com problema
  • Tente mais tarde ou fale conosco

Nova tentativa com backoff exponencial

O código abaixo tenta novamente quando qwq-32b retorna 502: até 5 tentativas, com espera crescente e jitter aleatório para que chamadas concorrentes não repitam ao mesmo tempo. Leia a URL base e a API key de variáveis de ambiente, nunca as deixe fixas no código.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'qwq-32b'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Dados-chave deste modelo

Endpoint da APIhttps://api.airai.cc/v1
Compatível com OpenAIOpenAI-compatible
Fornecedor阿里巴巴
Contexto131.1K
RecursosReasoning, Tools, Open Weights
Formatos de APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Fórmula de cobrançap * 0.287 + c * 0.861

Perguntas frequentes

Preciso subir de plano para resolver 502 em qwq-32b?

É sobretudo questão de cota, não uma falha do modelo. Tanto elevar o limite do plano quanto reduzir a frequência de chamadas ajuda. A cobrança segue p * 0.287 + c * 0.861: sem saída, sem cobrança. Com cobrança p * 0.287 + c * 0.861, o custo de saídas longas vem principalmente dos tokens de saída. Confira primeiro saldo e limites de taxa no console, depois o código.

Um contexto longo torna 502 mais provável?

É um problema de configuração do cliente; nada muda no servidor. A janela de contexto 131.1K define a entrada máxima por requisição; o que passar é rejeitado na hora. Falhe rápido em erros de parâmetro em vez de gastar retentativas com eles. Trunque ou resuma entradas longas — reduz 502 de forma perceptível.

502 está relacionado à capacidade do próprio modelo?

Geralmente é algo momentâneo e se recupera sozinho. As tags de capacidade deste modelo são Reasoning, Tools, Open Weights. Se o erro persistir por vários minutos, contate o suporte da plataforma para confirmar o status upstream. Decida primeiro se é nível de conta ou de modelo; os dois exigem tratamento bem diferente.

Quanto deve durar o timeout?

Aqui as variáveis reais são concorrência e timeouts, não o modelo. Reduza primeiro a concorrência — a maior parte dos problemas de throughput desaparece. Um contexto de 131.1K significa que entradas longas aumentam a latência do primeiro token. Para saídas longas, aumente o timeout para 60 segundos ou mais. Suavize os picos com lotes ou uma fila — mais estável que aumentar a concorrência em tempo real.

Outros erros deste modelo

Outros modelos com o mesmo erro

Voltar à página do modelo

Dados atualizados: 2026-10-10 18:35

Suporte técnicoAtendimento online
Voltar ao topo