Errore timeout: cosa fare quando grok-4.20-multi-agent-0309 fallisce

Un timeout significa che il client ha rinunciato prima dell'arrivo della risposta. Le richieste LLM in streaming sono le più colpite, perché il modello pensa prima del primo token e quella fase non produce alcun byte.

Un timeout non è un codice di stato HTTP, ma un limite di attesa lato client. La richiesta di solito ha raggiunto il gateway ed è stata inoltrata all’upstream, ma il modello non ha prodotto un risultato entro il tempo impostato. Contesto lungo, output lungo e chiamate senza streaming sono i tre fattori più comuni.

grok-4.20-multi-agent-0309 è fornito da xAI. Tutto in questa pagina — cause, soluzioni e dati misurati — è ricavato dal comportamento reale di questo modello al livello del gateway.

Su questo gateway, la causa più comune è: Il timeout del client è impostato troppo basso. La prima azione consigliata è: Porta il timeout del client a 300 secondi o più.

Cause comuni

  • Il timeout del client è impostato troppo basso
  • Un prompt o contesto lungo alza la latenza del primo token
  • Il modello sta svolgendo un lungo compito di ragionamento
  • Jitter di rete

Come risolvere

  • Porta il timeout del client a 300 secondi o più
  • Attiva lo streaming per non attendere l'intera risposta
  • Accorcia il contesto o usa un modello più rapido
  • Riduci max_tokens

Retry con backoff esponenziale

Il codice qui sotto ritenta quando grok-4.20-multi-agent-0309 restituisce timeout: fino a 5 tentativi, con attesa crescente e jitter casuale per evitare che le chiamate concorrenti ritentino insieme. Leggi base URL e API key dalle variabili d’ambiente, non inserirle hardcoded.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'grok-4.20-multi-agent-0309'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Dati chiave di questo modello

Endpoint APIhttps://api.airai.cc/v1
Compatibile con OpenAIOpenAI-compatible
FornitorexAI
Contesto1M
FunzionalitàReasoning, Files, Vision
Formati APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Formula di fatturazionep * 1.25 + cr * 0.2 + c * 2.5) : tier("200k_plus", p * 2.5 + cr * 0.4 + c * 5

Domande frequenti

Condividere una key tra più servizi rende timeout più probabile?

Sia alzare il limite del piano sia ridurre la frequenza delle chiamate aiuta. Con la fatturazione p * 1.25 + cr * 0.2 + c * 2.5) : tier("200k_plus", p * 2.5 + cr * 0.4 + c * 5, le richieste fallite non rientrano nel consumo. Controlla prima saldo e limiti di velocità nella console, poi il codice. Stimando il costo da p * 1.25 + cr * 0.2 + c * 2.5) : tier("200k_plus", p * 2.5 + cr * 0.4 + c * 5, includi anche il budget per i ritenti.

Mi verrà addebitato qualcosa quando grok-4.20-multi-agent-0309 restituisce timeout?

Nessun addebito: conta solo l’output effettivamente generato. Con fatturazione p * 1.25 + cr * 0.2 + c * 2.5) : tier("200k_plus", p * 2.5 + cr * 0.4 + c * 5, il costo degli output lunghi deriva soprattutto dai token di output. Controlla prima saldo e limiti di velocità nella console, poi il codice. Stimando il costo da p * 1.25 + cr * 0.2 + c * 2.5) : tier("200k_plus", p * 2.5 + cr * 0.4 + c * 5, includi anche il budget per i ritenti.

timeout è più probabile con chiamate dirette dal frontend o via backend?

Tieni pronto anche un modello di riserva. Questo modello di xAI ha più nodi upstream tra cui il gateway può commutare. Tieni pronto un modello di riserva più leggero, così il flusso principale non si interrompe. Metti il nome del modello in configurazione, così cambiare upstream non richiede modifiche al codice.

Quali informazioni dare al supporto quando segnalo un problema?

Raggruppa gli errori per orario e per nodo; lo schema di solito è evidente. Questo modello è servito da xAI, quindi lo stato upstream segue gli annunci del fornitore. Registra l’id della richiesta a ogni fallimento: serve più del codice di stato.

Altri errori su questo modello

Altri modelli con lo stesso errore

Torna alla pagina del modello

Dati aggiornati: 2026-10-11 22:40

Supporto tecnicoAssistenza online
Torna in alto