Erro timeout: o que fazer quando glm-5.1 falha
Um timeout significa que o cliente desistiu antes de a resposta chegar. Requisições em streaming para LLMs são as mais afetadas, porque o modelo pensa antes do primeiro token e essa fase não produz nenhum byte.
Timeout não é um código de status HTTP, e sim um limite de espera do cliente. A requisição normalmente chegou ao gateway e foi encaminhada ao upstream, mas o modelo não gerou resultado dentro do tempo que você definiu. Contexto longo, saída longa e chamadas sem streaming são os três gatilhos mais comuns.
glm-5.1 é fornecido por Z.AI. Tudo nesta página — causas, correções e dados medidos — é compilado a partir do comportamento real deste modelo na camada de gateway.
Neste gateway, o gatilho mais comum é: O timeout do cliente está baixo demais. A primeira ação recomendada é: Aumente o timeout do cliente para 300 segundos ou mais.
Causas comuns
- O timeout do cliente está baixo demais
- Um prompt ou contexto longo eleva a latência do primeiro token
- O modelo está processando uma tarefa longa de raciocínio
- Oscilação de rede
Como resolver
- Aumente o timeout do cliente para 300 segundos ou mais
- Ative o streaming para não esperar a resposta inteira
- Encurte o contexto ou use um modelo mais rápido
- Reduza max_tokens
Nova tentativa com backoff exponencial
O código abaixo tenta novamente quando glm-5.1 retorna timeout: até 5 tentativas, com espera crescente e jitter aleatório para que chamadas concorrentes não repitam ao mesmo tempo. Leia a URL base e a API key de variáveis de ambiente, nunca as deixe fixas no código.
import os, time, random
import requests
BASE = os.getenv("OPENAI_BASE_URL") # e.g. https://<your-gateway>/v1
KEY = os.getenv("OPENAI_API_KEY")
MODEL = 'glm-5.1'
def chat(messages, retries=5):
"""Retry with exponential backoff + jitter."""
for i in range(retries):
try:
r = requests.post(
BASE + "/chat/completions",
headers={"Authorization": "Bearer " + KEY},
json={"model": MODEL, "messages": messages, "stream": True},
timeout=60,
)
if r.status_code == 429 or r.status_code >= 500:
time.sleep(min(2 ** i + random.uniform(0, 1), 30))
continue
r.raise_for_status()
return r.json()
except requests.exceptions.Timeout:
time.sleep(min(2 ** i + random.uniform(0, 1), 30))
raise RuntimeError("gave up after " + str(retries) + " retries")
print(chat([{"role": "user", "content": "hello"}]))Dados-chave deste modelo
| Endpoint da API | https://api.airai.cc/v1 |
|---|---|
| Compatível com OpenAI | OpenAI-compatible |
| Fornecedor | Z.AI |
|---|---|
| Contexto | 200K |
| Recursos | Reasoning, Tools, Open Weights |
| Formatos de API | openai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search |
| Fórmula de cobrança | p * 1.4 + cr * 0.26 + cc * 0 + c * 4.4 |
Perguntas frequentes
Trocar de modelo evita timeout em glm-5.1?
Deixe também um modelo reserva preparado. Este modelo da Z.AI tem vários nós upstream entre os quais o gateway pode alternar. Deixe um modelo reserva mais leve pronto, assim o fluxo principal não para.
Requisições falhas contam na minha cota de limite de taxa?
Não há cobrança: só conta para o consumo a saída efetivamente gerada. Só é cobrada a saída já produzida; a parte falha não. O preço de entrada fica em torno de $1.40 por milhão de tokens. Com cobrança p * 1.4 + cr * 0.26 + cc * 0 + c * 4.4, o custo de saídas longas vem principalmente dos tokens de saída. Ao estimar o custo a partir de p * 1.4 + cr * 0.26 + cc * 0 + c * 4.4, inclua também o orçamento de retentativas.
As novas tentativas devem incluir jitter aleatório?
Tentar novamente é o primeiro passo mais eficaz. Com a cobrança p * 1.4 + cr * 0.26 + cc * 0 + c * 4.4, requisições falhas não entram no uso. Use backoff exponencial para erros retentáveis e retorne o erro na hora para os demais.
Como agendar jobs em lote quando glm-5.1 retorna timeout?
Aqui as variáveis reais são concorrência e timeouts, não o modelo. Reduza primeiro a concorrência — a maior parte dos problemas de throughput desaparece. Este modelo tem janela de contexto de 200K e é da Z.AI. Um contexto de 200K significa que entradas longas aumentam a latência do primeiro token. Para saídas longas, aumente o timeout para 60 segundos ou mais. Suavize os picos com lotes ou uma fila — mais estável que aumentar a concorrência em tempo real.
Outros erros deste modelo
- glm-5.1: erro 429 — causas e soluções
- glm-5.1: erro 500 — causas e soluções
- glm-5.1: erro 502 — causas e soluções
- glm-5.1: erro 503 — causas e soluções
- glm-5.1: erro 504 — causas e soluções
- glm-5.1: erro 401 — causas e soluções
- glm-5.1: erro 403 — causas e soluções
- glm-5.1: erro 400 — causas e soluções
Outros modelos com o mesmo erro
- gpt-5
- claude-opus-5
- gemini-2.5-pro
- deepseek-v4-pro
- grok-4.3
- llama-3.3-70b-instruct
- qvq-max
- qwq-32b
- glm-5
- MiniMax-M3
- kimi-k3
- hy3
- doubao-seed-evolving
- mimo-v2.5
- gpt-4o
- claude-opus-4-6
Dados atualizados: 2026-10-10 18:30