Erro 504: o que fazer quando claude-sonnet-4-5-20250929 falha

Um 504 significa que o gateway esgotou o tempo de espera pelo modelo de origem: a requisição foi enviada, mas a origem não respondeu dentro do tempo limite do gateway.

504 Gateway Timeout significa que o gateway desistiu de esperar a resposta do upstream. A requisição foi encaminhada, mas nenhum resultado voltou dentro do limite. Encurtar a saída, ativar streaming ou reduzir max_tokens costuma resolver.

claude-sonnet-4-5-20250929 é fornecido por Anthropic. Tudo nesta página — causas, correções e dados medidos — é compilado a partir do comportamento real deste modelo na camada de gateway.

Neste gateway, o gatilho mais comum é: A origem demorou mais do que o tempo limite do gateway permite. A primeira ação recomendada é: Mude para saída em streaming.

Causas comuns

  • A origem demorou mais do que o tempo limite do gateway permite
  • Um contexto longo aumentou o tempo de inferência
  • Um nó de origem travou
  • Uma requisição sem streaming com saída muito longa

Como resolver

  • Mude para saída em streaming
  • Encurte o contexto e reduza max_tokens
  • Tente de novo após uma breve espera
  • Use um modelo com inferência mais rápida

Nova tentativa com backoff exponencial

O código abaixo tenta novamente quando claude-sonnet-4-5-20250929 retorna 504: até 5 tentativas, com espera crescente e jitter aleatório para que chamadas concorrentes não repitam ao mesmo tempo. Leia a URL base e a API key de variáveis de ambiente, nunca as deixe fixas no código.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'claude-sonnet-4-5-20250929'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Dados-chave deste modelo

Endpoint da APIhttps://api.airai.cc/v1
Compatível com OpenAIOpenAI-compatible
FornecedorAnthropic
Contexto1M
RecursosReasoning, Tools, Files, Vision
Formatos de APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Fórmula de cobrançap * 3 + cr * 0.3 + cc * 3.75 + cc1h * 6 + c * 15

Perguntas frequentes

Quanto deve durar o timeout?

Aqui as variáveis reais são concorrência e timeouts, não o modelo. Este modelo tem janela de contexto de 1M e é da Anthropic. Um contexto de 1M significa que entradas longas aumentam a latência do primeiro token. Adicione uma camada de cache para que requisições repetidas não cheguem todas ao modelo.

Por quanto tempo 504 em claude-sonnet-4-5-20250929 deve persistir antes de falar com o suporte?

Agrupe os erros por horário e por nó; o padrão costuma ficar óbvio. Se só acontece em produção, geralmente é diferença de ambiente, não do modelo. Este modelo é servido por Anthropic, então o status upstream segue os anúncios do fornecedor. Registre o id da requisição em cada falha — ajuda mais que o código de status. Reproduza primeiro em ambiente de teste com o mesmo corpo de requisição.

504 em claude-sonnet-4-5-20250929 está relacionado à cota da minha conta?

É sobretudo questão de cota, não uma falha do modelo. Tanto elevar o limite do plano quanto reduzir a frequência de chamadas ajuda. Com cobrança p * 3 + cr * 0.3 + cc * 3.75 + cc1h * 6 + c * 15, o custo de saídas longas vem principalmente dos tokens de saída. Com a cobrança p * 3 + cr * 0.3 + cc * 3.75 + cc1h * 6 + c * 15, requisições falhas não entram no uso. Confira primeiro saldo e limites de taxa no console, depois o código. Ao estimar o custo a partir de p * 3 + cr * 0.3 + cc * 3.75 + cc1h * 6 + c * 15, inclua também o orçamento de retentativas.

Backoff exponencial ou intervalo fixo?

Normalmente não é preciso mudar o código, apenas o ritmo das chamadas. Com a cobrança p * 3 + cr * 0.3 + cc * 3.75 + cc1h * 6 + c * 15, requisições falhas não entram no uso. Defina o limite de retentativas em 3–5 e adicione jitter. Use backoff exponencial para erros retentáveis e retorne o erro na hora para os demais.

Outros erros deste modelo

Outros modelos com o mesmo erro

Voltar à página do modelo

Dados atualizados: 2026-10-10 15:50

Suporte técnicoAtendimento online
Voltar ao topo