Errore 502: cosa fare quando claude-haiku-4.5 fallisce

Un 502 significa che il gateway ha ricevuto una risposta non valida dal servizio modello a monte: la richiesta ha raggiunto il gateway, ma il salto verso monte è fallito.

502 Bad Gateway significa che il gateway ha ricevuto una risposta non valida dal servizio upstream del modello. La richiesta ha raggiunto il gateway; l’errore è avvenuto nel salto verso l’upstream, di solito per il riavvio di un nodo o una connessione interrotta.

claude-haiku-4.5 è fornito da Anthropic. Tutto in questa pagina — cause, soluzioni e dati misurati — è ricavato dal comportamento reale di questo modello al livello del gateway.

Su questo gateway, la causa più comune è: Il servizio modello a monte è indisponibile o ha risposto in modo malformato. La prima azione consigliata è: Riprova una volta: i 502 sono di solito temporanei.

Cause comuni

  • Il servizio modello a monte è indisponibile o ha risposto in modo malformato
  • Un nodo a monte si sta riavviando
  • La connessione tra gateway e monte è stata interrotta
  • Il modello è stato temporaneamente disattivato

Come risolvere

  • Riprova una volta: i 502 sono di solito temporanei
  • Passa a un modello equivalente di un altro fornitore
  • Se solo un modello dà 502, il suo monte è in difficoltà
  • Riprova più tardi o contattaci

Retry con backoff esponenziale

Il codice qui sotto ritenta quando claude-haiku-4.5 restituisce 502: fino a 5 tentativi, con attesa crescente e jitter casuale per evitare che le chiamate concorrenti ritentino insieme. Leggi base URL e API key dalle variabili d’ambiente, non inserirle hardcoded.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'claude-haiku-4.5'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Dati chiave di questo modello

Endpoint APIhttps://api.airai.cc/v1
Compatibile con OpenAIOpenAI-compatible
FornitoreAnthropic
Formati APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Sconto cache0.1×

Domande frequenti

Quanti tentativi di retry sono ragionevoli?

Di solito non serve cambiare il codice, solo il ritmo delle chiamate. Imposta il limite di ritenti a 3–5 e aggiungi del jitter. Usa il backoff esponenziale per gli errori ritentabili e restituisci subito l’errore per gli altri.

Le richieste concorrenti vanno messe in coda o limitate direttamente?

Abbassa prima la concorrenza: la maggior parte dei problemi di throughput scompare. Parti da una concorrenza bassa, osserva per qualche minuto, poi aumenta.

Quando claude-haiku-4.5 restituisce 502, è più probabile il gateway o l’upstream?

Di solito è momentaneo e si risolve da sé. Se l’errore continua per diversi minuti, contatta il supporto della piattaforma per confermare lo stato upstream. Stabilisci prima se è a livello di account o di modello: i due casi si gestiscono in modo completamente diverso.

Condividere una key tra più servizi rende 502 più probabile?

È soprattutto una questione di quota, non un guasto del modello. Sia alzare il limite del piano sia ridurre la frequenza delle chiamate aiuta. Il prezzo di input è circa $1.00 per milione di token. Controlla prima saldo e limiti di velocità nella console, poi il codice. Stimando il costo da , includi anche il budget per i ritenti.

Altri errori su questo modello

Altri modelli con lo stesso errore

Torna alla pagina del modello

Dati aggiornati: 2026-10-10 12:10

Supporto tecnicoAssistenza online
Torna in alto