Lỗi 429: cần làm gì khi gọi gpt-5-pro thất bại

Mã 429 nghĩa là đã chạm giới hạn tốc độ: số yêu cầu hoặc token trong một khoảng thời gian đã vượt hạn ngạch của gói hiện tại.

429 Too Many Requests là phản hồi giới hạn tốc độ, không phải lỗi. Nghĩa là request hợp lệ nhưng vượt quá tốc độ hoặc số lượng đồng thời mà gói hiện tại cho phép. Chỉ cần chờ theo khoảng thời gian trong response header rồi thử lại, không cần sửa body.

gpt-5-pro được OpenAI cung cấp. Mọi nội dung trên trang này — nguyên nhân, cách xử lý và dữ liệu đo được — đều tổng hợp từ hoạt động thực tế của mô hình này tại lớp gateway.

Tại gateway này, nguyên nhân thường gặp nhất là: Quá nhiều yêu cầu đồng thời. Hành động đầu tiên nên làm là: Giới hạn đồng thời và thử lại với thời gian chờ tăng dần.

Nguyên nhân thường gặp

  • Quá nhiều yêu cầu đồng thời
  • Hết hạn ngạch của gói hiện tại
  • Thử lại ngay không chờ

Cách khắc phục

  • Giới hạn đồng thời và thử lại với thời gian chờ tăng dần
  • Chuyển sang gói hạn ngạch lớn hơn
  • Lưu cache các yêu cầu lặp lại

Ví dụ thử lại với backoff luỹ thừa

Đoạn mã dưới sẽ thử lại khi gpt-5-pro trả về 429, tối đa 5 lần, thời gian chờ tăng dần kèm jitter ngẫu nhiên để các request đồng thời không retry cùng lúc. Hãy đọc base URL và API key từ biến môi trường, đừng hardcode vào code.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'gpt-5-pro'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Dữ liệu chính của mô hình này

Điểm cuối APIhttps://api.airai.cc/v1
Tương thích OpenAIOpenAI-compatible
Nhà cung cấpOpenAI
Ngữ cảnh400K
Khả năngReasoning, Tools, Files, Vision
Định dạng APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Công thức tính phíp * 15 + c * 120

Câu hỏi thường gặp

Dùng chung một key cho nhiều dịch vụ có làm 429 dễ xảy ra hơn không?

Chủ yếu là vấn đề hạn mức, không phải model bị lỗi. Tăng hạn mức gói hoặc giảm tần suất gọi đều giúp ích. Với cách tính phí p * 15 + c * 120, chi phí output dài chủ yếu từ output token. Kiểm tra số dư và giới hạn tốc độ trong console trước, rồi mới xem code.

Xử lý bất đồng bộ hoặc batch có tránh được 429 không?

Biến số thực sự ở đây là độ đồng thời và timeout, không phải bản thân mô hình. Hãy giảm độ đồng thời trước — hầu hết vấn đề về thông lượng sẽ biến mất. Model này có context window 400K và thuộc OpenAI. Context 400K nghĩa là input dài sẽ tăng đáng kể độ trễ token đầu tiên. Thêm một lớp cache để các request lặp lại không đều dội vào mô hình. Làm phẳng đỉnh tải bằng batch hoặc hàng đợi — ổn định hơn là tăng độ đồng thời tức thời.

Vì sao gpt-5-pro chỉ trả 429 vào một số khung giờ?

Hãy giữ lại request ID và nội dung phản hồi gốc, nếu không sẽ không truy vết được. Mô hình này do OpenAI cung cấp, vì vậy trạng thái upstream theo thông báo của nhà cung cấp. Tái hiện trước trong môi trường thử nghiệm với cùng request body.

Chuyển sang model nhỏ hơn có giảm 429 không?

Có phương án dự phòng ở cấp kiến trúc thì đáng tin hơn là vá từng lỗi một. Model này của OpenAI có nhiều node upstream để gateway chuyển đổi. Chuẩn bị sẵn một mô hình dự phòng nhẹ hơn để luồng chính không bị gián đoạn. Đưa tên mô hình vào config, đổi upstream sẽ không cần sửa code.

Lỗi khác của mô hình này

Các mô hình khác gặp cùng lỗi

Dữ liệu cập nhật: 2026-10-10 18:35

Hỗ trợ kỹ thuậtHỗ trợ trực tuyến
Về đầu trang