Lỗi 429: cần làm gì khi gọi qwen3-32b thất bại
Mã 429 nghĩa là đã chạm giới hạn tốc độ: số yêu cầu hoặc token trong một khoảng thời gian đã vượt hạn ngạch của gói hiện tại.
429 Too Many Requests là phản hồi giới hạn tốc độ, không phải lỗi. Nghĩa là request hợp lệ nhưng vượt quá tốc độ hoặc số lượng đồng thời mà gói hiện tại cho phép. Chỉ cần chờ theo khoảng thời gian trong response header rồi thử lại, không cần sửa body.
qwen3-32b được Alibaba cung cấp. Mọi nội dung trên trang này — nguyên nhân, cách xử lý và dữ liệu đo được — đều tổng hợp từ hoạt động thực tế của mô hình này tại lớp gateway.
Tại gateway này, nguyên nhân thường gặp nhất là: Quá nhiều yêu cầu đồng thời. Hành động đầu tiên nên làm là: Giới hạn đồng thời và thử lại với thời gian chờ tăng dần.
Nguyên nhân thường gặp
- Quá nhiều yêu cầu đồng thời
- Hết hạn ngạch của gói hiện tại
- Thử lại ngay không chờ
Cách khắc phục
- Giới hạn đồng thời và thử lại với thời gian chờ tăng dần
- Chuyển sang gói hạn ngạch lớn hơn
- Lưu cache các yêu cầu lặp lại
Ví dụ thử lại với backoff luỹ thừa
Đoạn mã dưới sẽ thử lại khi qwen3-32b trả về 429, tối đa 5 lần, thời gian chờ tăng dần kèm jitter ngẫu nhiên để các request đồng thời không retry cùng lúc. Hãy đọc base URL và API key từ biến môi trường, đừng hardcode vào code.
import os, time, random
import requests
BASE = os.getenv("OPENAI_BASE_URL") # e.g. https://<your-gateway>/v1
KEY = os.getenv("OPENAI_API_KEY")
MODEL = 'qwen3-32b'
def chat(messages, retries=5):
"""Retry with exponential backoff + jitter."""
for i in range(retries):
try:
r = requests.post(
BASE + "/chat/completions",
headers={"Authorization": "Bearer " + KEY},
json={"model": MODEL, "messages": messages, "stream": True},
timeout=60,
)
if r.status_code == 429 or r.status_code >= 500:
time.sleep(min(2 ** i + random.uniform(0, 1), 30))
continue
r.raise_for_status()
return r.json()
except requests.exceptions.Timeout:
time.sleep(min(2 ** i + random.uniform(0, 1), 30))
raise RuntimeError("gave up after " + str(retries) + " retries")
print(chat([{"role": "user", "content": "hello"}]))Dữ liệu chính của mô hình này
| Điểm cuối API | https://api.airai.cc/v1 |
|---|---|
| Tương thích OpenAI | OpenAI-compatible |
| Nhà cung cấp | Alibaba |
|---|---|
| Ngữ cảnh | 131.1K |
| Khả năng | Reasoning, Tools, Open Weights |
| Định dạng API | openai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search |
| Công thức tính phí | p * 0.7 + c * 8.4) : tier("standard", p * 0.7 + c * 2.8 |
Câu hỏi thường gặp
Thử lại có làm request chạy hai lần không?
Thường không cần sửa code nghiệp vụ, chỉ cần điều chỉnh nhịp gọi. Thử lại là bước đầu tiên hiệu quả nhất. Với cách tính phí p * 0.7 + c * 8.4) : tier("standard", p * 0.7 + c * 2.8, các request thất bại không được tính vào mức sử dụng. Đặt giới hạn thử lại ở 3–5 lần và thêm jitter. Dùng exponential backoff cho lỗi có thể thử lại, và trả lỗi ngay cho các lỗi còn lại.
429 có liên quan cách tính phí của qwen3-32b không?
Không bị tính phí, chỉ output thực sự được tạo mới tính vào sử dụng. Chỉ phần đầu ra đã tạo mới bị tính phí, phần thất bại thì không. Giá input khoảng $0.70 / triệu token. Khi ước tính chi phí từ p * 0.7 + c * 8.4) : tier("standard", p * 0.7 + c * 2.8, hãy tính cả ngân sách thử lại.
Khi có nhiều node upstream, gateway có tự chuyển khi gặp 429 không?
Lỗi này không liên quan năng lực model, mà ở tầng gateway. Thẻ năng lực của model này là Reasoning, Tools, Open Weights. Nếu lỗi kéo dài vài phút, hãy liên hệ hỗ trợ của nền tảng để xác nhận trạng thái upstream. Xác định trước là cấp tài khoản hay cấp mô hình; hai trường hợp xử lý hoàn toàn khác nhau.
Mức concurrency nào là an toàn?
Biến số thực sự ở đây là độ đồng thời và timeout, không phải bản thân mô hình. Model này có context window 131.1K và thuộc Alibaba. Context 131.1K nghĩa là input dài sẽ tăng đáng kể độ trễ token đầu tiên. Bắt đầu với độ đồng thời thấp, quan sát vài phút rồi tăng dần. Làm phẳng đỉnh tải bằng batch hoặc hàng đợi — ổn định hơn là tăng độ đồng thời tức thời.
Lỗi khác của mô hình này
- qwen3-32b: lỗi timeout — nguyên nhân và cách khắc phục
- qwen3-32b: lỗi 500 — nguyên nhân và cách khắc phục
- qwen3-32b: lỗi 502 — nguyên nhân và cách khắc phục
- qwen3-32b: lỗi 503 — nguyên nhân và cách khắc phục
- qwen3-32b: lỗi 504 — nguyên nhân và cách khắc phục
- qwen3-32b: lỗi 401 — nguyên nhân và cách khắc phục
- qwen3-32b: lỗi 403 — nguyên nhân và cách khắc phục
- qwen3-32b: lỗi 400 — nguyên nhân và cách khắc phục
Các mô hình khác gặp cùng lỗi
- gpt-5
- claude-opus-5
- gemini-2.5-pro
- deepseek-v4-pro
- grok-4.3
- llama-3.3-70b-instruct
- qvq-max
- qwq-32b
- glm-5
- MiniMax-M3
- kimi-k3
- hy3
- doubao-seed-evolving
- mimo-v2.5
- gpt-4o
- claude-opus-4-6
Dữ liệu cập nhật: 2026-10-10 12:10