Errore 504: cosa fare quando glm-5.1 fallisce
Un 504 significa che il gateway è andato in timeout attendendo il modello a monte: la richiesta è stata inviata, ma il monte non ha risposto entro il timeout del gateway.
504 Gateway Timeout significa che il gateway ha smesso di attendere la risposta dell’upstream. La richiesta è stata inoltrata, ma nessun risultato è tornato entro il limite. Accorciare l’output, attivare lo streaming o ridurre max_tokens di solito risolve.
glm-5.1 è fornito da Z.AI. Tutto in questa pagina — cause, soluzioni e dati misurati — è ricavato dal comportamento reale di questo modello al livello del gateway.
Su questo gateway, la causa più comune è: Il monte ha impiegato più del timeout consentito dal gateway. La prima azione consigliata è: Passa all'output in streaming.
Cause comuni
- Il monte ha impiegato più del timeout consentito dal gateway
- Un contesto lungo ha aumentato il tempo di inferenza
- Un nodo a monte è bloccato
- Una richiesta non in streaming con output molto lungo
Come risolvere
- Passa all'output in streaming
- Accorcia il contesto e riduci max_tokens
- Riprova dopo una breve attesa
- Usa un modello con inferenza più rapida
Retry con backoff esponenziale
Il codice qui sotto ritenta quando glm-5.1 restituisce 504: fino a 5 tentativi, con attesa crescente e jitter casuale per evitare che le chiamate concorrenti ritentino insieme. Leggi base URL e API key dalle variabili d’ambiente, non inserirle hardcoded.
import os, time, random
import requests
BASE = os.getenv("OPENAI_BASE_URL") # e.g. https://<your-gateway>/v1
KEY = os.getenv("OPENAI_API_KEY")
MODEL = 'glm-5.1'
def chat(messages, retries=5):
"""Retry with exponential backoff + jitter."""
for i in range(retries):
try:
r = requests.post(
BASE + "/chat/completions",
headers={"Authorization": "Bearer " + KEY},
json={"model": MODEL, "messages": messages, "stream": True},
timeout=60,
)
if r.status_code == 429 or r.status_code >= 500:
time.sleep(min(2 ** i + random.uniform(0, 1), 30))
continue
r.raise_for_status()
return r.json()
except requests.exceptions.Timeout:
time.sleep(min(2 ** i + random.uniform(0, 1), 30))
raise RuntimeError("gave up after " + str(retries) + " retries")
print(chat([{"role": "user", "content": "hello"}]))Dati chiave di questo modello
| Endpoint API | https://api.airai.cc/v1 |
|---|---|
| Compatibile con OpenAI | OpenAI-compatible |
| Fornitore | Z.AI |
|---|---|
| Contesto | 200K |
| Funzionalità | Reasoning, Tools, Open Weights |
| Formati API | openai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search |
| Formula di fatturazione | p * 1.4 + cr * 0.26 + cc * 0 + c * 4.4 |
Domande frequenti
Come monitorare 504 in produzione?
Se accade solo in produzione, di solito è una differenza di ambiente, non il modello. Questo modello è servito da Z.AI, quindi lo stato upstream segue gli annunci del fornitore. Registra l’id della richiesta a ogni fallimento: serve più del codice di stato.
504 può causare perdita di dati?
Questo errore non dipende dalle capacità del modello, è a livello di gateway. Di solito è momentaneo e si risolve da sé. I tag di capacità di questo modello sono Reasoning, Tools, Open Weights. Se l’errore continua per diversi minuti, contatta il supporto della piattaforma per confermare lo stato upstream. Stabilisci prima se è a livello di account o di modello: i due casi si gestiscono in modo completamente diverso.
Devo passare a un piano superiore per risolvere 504 su glm-5.1?
È soprattutto una questione di quota, non un guasto del modello. La fatturazione segue p * 1.4 + cr * 0.26 + cc * 0 + c * 4.4: senza output nessun addebito. Il prezzo di input è circa $1.40 per milione di token. Controlla prima saldo e limiti di velocità nella console, poi il codice. Stimando il costo da p * 1.4 + cr * 0.26 + cc * 0 + c * 4.4, includi anche il budget per i ritenti.
L’elaborazione asincrona o batch evita 504?
Qui le vere variabili sono la concorrenza e i timeout, non il modello. Un contesto di 200K significa che input lunghi aumentano la latenza del primo token. Aggiungi un livello di cache, così le richieste ripetute non arrivano tutte al modello. Appiana i picchi con batch o una coda: più stabile che alzare la concorrenza al volo.
Altri errori su questo modello
- glm-5.1: errore 429 — cause e soluzioni
- glm-5.1: errore timeout — cause e soluzioni
- glm-5.1: errore 500 — cause e soluzioni
- glm-5.1: errore 502 — cause e soluzioni
- glm-5.1: errore 503 — cause e soluzioni
- glm-5.1: errore 401 — cause e soluzioni
- glm-5.1: errore 403 — cause e soluzioni
- glm-5.1: errore 400 — cause e soluzioni
Altri modelli con lo stesso errore
- gpt-5
- claude-opus-5
- gemini-2.5-pro
- deepseek-v4-pro
- grok-4.3
- llama-3.3-70b-instruct
- qvq-max
- qwq-32b
- glm-5
- MiniMax-M3
- kimi-k3
- hy3
- doubao-seed-evolving
- mimo-v2.5
- gpt-4o
- claude-opus-4-6
Dati aggiornati: 2026-10-10 08:15