Error 429: apa yang harus dilakukan saat qvq-max gagal

Kode 429 berarti batas laju tercapai: jumlah permintaan atau token dalam satu jendela waktu melebihi kuota paket Anda.

429 Too Many Requests adalah respons pembatasan laju, bukan error. Artinya permintaan valid, hanya saja melampaui laju permintaan atau konkurensi yang diizinkan paket Anda saat ini. Tunggu sesuai jendela yang ditunjukkan header lalu coba lagi; body tidak perlu diubah.

qvq-max disediakan oleh Alibaba. Semua di halaman ini — penyebab, solusi, dan data terukur — disusun dari perilaku runtime nyata model ini di lapisan gateway.

Di gateway ini, pemicu yang paling umum adalah: Terlalu banyak permintaan bersamaan. Tindakan pertama yang disarankan: Batasi konkurensi dan coba ulang dengan jeda eksponensial.

Penyebab umum

  • Terlalu banyak permintaan bersamaan
  • Kuota paket saat ini habis
  • Mencoba ulang tanpa jeda

Cara mengatasi

  • Batasi konkurensi dan coba ulang dengan jeda eksponensial
  • Beralih ke paket dengan kuota lebih besar
  • Simpan cache permintaan yang berulang

Contoh percobaan ulang dengan exponential backoff

Kode di bawah mencoba ulang ketika qvq-max mengembalikan 429, maksimal 5 kali, dengan waktu tunggu yang meningkat plus jitter acak agar permintaan paralel tidak mengulang bersamaan. Baca base URL dan API key dari environment variable, jangan hardcode.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'qvq-max'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Data penting model ini

Endpoint APIhttps://api.airai.cc/v1
Kompatibel OpenAIOpenAI-compatible
VendorAlibaba
Konteks131.1K
KemampuanReasoning, Tools, Vision
Format APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Rumus penagihanp * 1.2 + c * 4.8

FAQ

Apakah permintaan yang gagal tetap dihitung dalam kuota rate limit?

Hanya output yang sudah dihasilkan yang ditagihkan; bagian yang gagal tidak. Harga input sekitar $1.20 per juta token. Periksa saldo dan batas laju di konsol dulu, baru periksa kodenya. Saat memperkirakan biaya dari p * 1.2 + c * 4.8, sertakan juga anggaran percobaan ulang.

Apakah 429 terkait kemampuan model itu sendiri?

Error ini tidak terkait kemampuan model, melainkan level gateway. Biasanya bersifat sementara dan pulih sendiri. Tag kapabilitas model ini adalah Reasoning, Tools, Vision. Jika berlangsung beberapa menit, hubungi dukungan platform untuk memastikan status upstream. Tentukan dulu apakah ini level akun atau level model; penanganannya benar-benar berbeda.

Apakah beralih ke streaming mengurangi 429?

Parameter permintaan harus diubah, mencoba ulang saja tidak membantu. Ini masalah konfigurasi sisi klien, sisi server tidak perlu diubah. Tag kemampuan adalah Reasoning, Tools, Vision, dan batas parameter mengikuti set kemampuan tersebut. Untuk error parameter, gagalkan langsung daripada menghabiskan percobaan ulang. Potong atau ringkas input yang panjang — ini menurunkan 429 secara nyata.

Apakah ganti model bisa menghindari 429 di qvq-max?

Siapkan juga satu model cadangan. Model dari Alibaba ini punya beberapa node upstream yang bisa diganti gateway. Siapkan model cadangan yang lebih ringan agar alur utama tidak terputus.

Error lain pada model ini

Model lain dengan error yang sama

Kembali ke halaman model

Data diperbarui: 2026-10-10 18:35

Dukungan teknisDukungan langsung
Kembali ke atas