Errore 429: cosa fare quando kimi-k3 fallisce

Un 429 significa che è scattato un limite di frequenza: il numero di richieste o token in una finestra temporale ha superato la quota del tuo piano.

429 Too Many Requests è una risposta di rate limiting, non un errore. La richiesta è valida, ma supera la frequenza o la concorrenza consentite dal tuo piano. Basta ritentare rispettando la finestra indicata negli header; il body non va modificato.

kimi-k3 è fornito da Moonshot AI. Tutto in questa pagina — cause, soluzioni e dati misurati — è ricavato dal comportamento reale di questo modello al livello del gateway.

Su questo gateway, la causa più comune è: Troppe richieste simultanee. La prima azione consigliata è: Limitare la concorrenza e ritentare con backoff esponenziale.

Cause comuni

  • Troppe richieste simultanee
  • Quota del piano attuale esaurita
  • Nuovo tentativo senza attesa

Come risolvere

  • Limitare la concorrenza e ritentare con backoff esponenziale
  • Passare a un piano con quota maggiore
  • Mettere in cache le richieste ripetute

Retry con backoff esponenziale

Il codice qui sotto ritenta quando kimi-k3 restituisce 429: fino a 5 tentativi, con attesa crescente e jitter casuale per evitare che le chiamate concorrenti ritentino insieme. Leggi base URL e API key dalle variabili d’ambiente, non inserirle hardcoded.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'kimi-k3'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Dati chiave di questo modello

Endpoint APIhttps://api.airai.cc/v1
Compatibile con OpenAIOpenAI-compatible
FornitoreMoonshot AI
Contesto1M
FunzionalitàReasoning, Tools, Files, Open Weights, Vision
Formati APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Formula di fatturazionep * 3 + cr * 0.3 + c * 15

Domande frequenti

Le richieste fallite rientrano nella quota di rate limit?

Nessun addebito: conta solo l’output effettivamente generato. Viene fatturato solo l’output già prodotto, non la parte fallita. Con fatturazione p * 3 + cr * 0.3 + c * 15, il costo degli output lunghi deriva soprattutto dai token di output. Controlla prima saldo e limiti di velocità nella console, poi il codice. Stimando il costo da p * 3 + cr * 0.3 + c * 15, includi anche il budget per i ritenti.

429 su kimi-k3 dipende dalla regione o dal nodo?

Raggruppa gli errori per orario e per nodo; lo schema di solito è evidente. Se accade solo in produzione, di solito è una differenza di ambiente, non il modello. Questo modello è servito da Moonshot AI, quindi lo stato upstream segue gli annunci del fornitore. Registra l’id della richiesta a ogni fallimento: serve più del codice di stato. Riproduci il caso prima in ambiente di test con lo stesso corpo della richiesta.

I retry devono aggiungere jitter casuale?

Di solito non serve cambiare il codice, solo il ritmo delle chiamate. Riprovare è il primo passo più efficace. Con la fatturazione p * 3 + cr * 0.3 + c * 15, le richieste fallite non rientrano nel consumo. Imposta il limite di ritenti a 3–5 e aggiungi del jitter. Usa il backoff esponenziale per gli errori ritentabili e restituisci subito l’errore per gli altri.

Conviene passare a un modello di riserva quando compare 429?

Tieni pronto anche un modello di riserva. Un fallback a livello di architettura è più affidabile che correggere ogni errore uno per uno. Questo modello di Moonshot AI ha più nodi upstream tra cui il gateway può commutare. Tieni pronto un modello di riserva più leggero, così il flusso principale non si interrompe. Metti il nome del modello in configurazione, così cambiare upstream non richiede modifiche al codice.

Altri errori su questo modello

Altri modelli con lo stesso errore

Torna alla pagina del modello

Dati aggiornati: 2026-10-10 18:30

Supporto tecnicoAssistenza online
Torna in alto