Errore 504: cosa fare quando gpt-5.5-pro fallisce

Un 504 significa che il gateway è andato in timeout attendendo il modello a monte: la richiesta è stata inviata, ma il monte non ha risposto entro il timeout del gateway.

504 Gateway Timeout significa che il gateway ha smesso di attendere la risposta dell’upstream. La richiesta è stata inoltrata, ma nessun risultato è tornato entro il limite. Accorciare l’output, attivare lo streaming o ridurre max_tokens di solito risolve.

gpt-5.5-pro è fornito da OpenAI. Tutto in questa pagina — cause, soluzioni e dati misurati — è ricavato dal comportamento reale di questo modello al livello del gateway.

Su questo gateway, la causa più comune è: Il monte ha impiegato più del timeout consentito dal gateway. La prima azione consigliata è: Passa all'output in streaming.

Cause comuni

  • Il monte ha impiegato più del timeout consentito dal gateway
  • Un contesto lungo ha aumentato il tempo di inferenza
  • Un nodo a monte è bloccato
  • Una richiesta non in streaming con output molto lungo

Come risolvere

  • Passa all'output in streaming
  • Accorcia il contesto e riduci max_tokens
  • Riprova dopo una breve attesa
  • Usa un modello con inferenza più rapida

Retry con backoff esponenziale

Il codice qui sotto ritenta quando gpt-5.5-pro restituisce 504: fino a 5 tentativi, con attesa crescente e jitter casuale per evitare che le chiamate concorrenti ritentino insieme. Leggi base URL e API key dalle variabili d’ambiente, non inserirle hardcoded.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'gpt-5.5-pro'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Dati chiave di questo modello

Endpoint APIhttps://api.airai.cc/v1
Compatibile con OpenAIOpenAI-compatible
FornitoreOpenAI
Contesto1.1M
FunzionalitàReasoning, Tools, Files, Vision
Formati APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Formula di fatturazionep * 30 + c * 180) : tier("272k_plus", p * 60 + c * 270
Sconto cache1×

Domande frequenti

Dopo quanto tempo 504 su gpt-5.5-pro va segnalato al supporto?

Conserva l’id della richiesta e il corpo grezzo della risposta, altrimenti non si può risalire a nulla. Questo modello è servito da OpenAI, quindi lo stato upstream segue gli annunci del fornitore. Registra l’id della richiesta a ogni fallimento: serve più del codice di stato. Riproduci il caso prima in ambiente di test con lo stesso corpo della richiesta.

Come uso l’header Retry-After nella risposta?

Di solito non serve cambiare il codice, solo il ritmo delle chiamate. Riprovare è il primo passo più efficace. Con la fatturazione p * 30 + c * 180) : tier("272k_plus", p * 60 + c * 270, le richieste fallite non rientrano nel consumo. Imposta il limite di ritenti a 3–5 e aggiungi del jitter. Usa il backoff esponenziale per gli errori ritentabili e restituisci subito l’errore per gli altri.

Le richieste fallite rientrano nella quota di rate limit?

Nessun addebito: conta solo l’output effettivamente generato. Viene fatturato solo l’output già prodotto, non la parte fallita. Con fatturazione p * 30 + c * 180) : tier("272k_plus", p * 60 + c * 270, il costo degli output lunghi deriva soprattutto dai token di output. Controlla prima saldo e limiti di velocità nella console, poi il codice. Stimando il costo da p * 30 + c * 180) : tier("272k_plus", p * 60 + c * 270, includi anche il budget per i ritenti.

504 influenza le richieste già inviate a gpt-5.5-pro?

Questo errore non dipende dalle capacità del modello, è a livello di gateway. Di solito è momentaneo e si risolve da sé. I tag di capacità di questo modello sono Reasoning, Tools, Files, Vision. Se l’errore continua per diversi minuti, contatta il supporto della piattaforma per confermare lo stato upstream.

Altri errori su questo modello

Altri modelli con lo stesso errore

Dati aggiornati: 2026-10-10 15:45

Supporto tecnicoAssistenza online
Torna in alto