Lỗi 429: cần làm gì khi gọi gemini-2.5-flash-lite thất bại

Mã 429 nghĩa là đã chạm giới hạn tốc độ: số yêu cầu hoặc token trong một khoảng thời gian đã vượt hạn ngạch của gói hiện tại.

429 Too Many Requests là phản hồi giới hạn tốc độ, không phải lỗi. Nghĩa là request hợp lệ nhưng vượt quá tốc độ hoặc số lượng đồng thời mà gói hiện tại cho phép. Chỉ cần chờ theo khoảng thời gian trong response header rồi thử lại, không cần sửa body.

gemini-2.5-flash-lite được Google cung cấp. Mọi nội dung trên trang này — nguyên nhân, cách xử lý và dữ liệu đo được — đều tổng hợp từ hoạt động thực tế của mô hình này tại lớp gateway.

Tại gateway này, nguyên nhân thường gặp nhất là: Quá nhiều yêu cầu đồng thời. Hành động đầu tiên nên làm là: Giới hạn đồng thời và thử lại với thời gian chờ tăng dần.

Nguyên nhân thường gặp

  • Quá nhiều yêu cầu đồng thời
  • Hết hạn ngạch của gói hiện tại
  • Thử lại ngay không chờ

Cách khắc phục

  • Giới hạn đồng thời và thử lại với thời gian chờ tăng dần
  • Chuyển sang gói hạn ngạch lớn hơn
  • Lưu cache các yêu cầu lặp lại

Ví dụ thử lại với backoff luỹ thừa

Đoạn mã dưới sẽ thử lại khi gemini-2.5-flash-lite trả về 429, tối đa 5 lần, thời gian chờ tăng dần kèm jitter ngẫu nhiên để các request đồng thời không retry cùng lúc. Hãy đọc base URL và API key từ biến môi trường, đừng hardcode vào code.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'gemini-2.5-flash-lite'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Dữ liệu chính của mô hình này

TPS380.8
Độ trễ trung bình1486 ms
Tỷ lệ thành công100%
Điểm cuối APIhttps://api.airai.cc/v1
Tương thích OpenAIOpenAI-compatible
Nhà cung cấpGoogle
Ngữ cảnh1M
Khả năngReasoning, Tools, Files, Vision, Audio
Định dạng APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Công thức tính phíp * 0.1 + cr * 0.01 + ai * 0.3 + c * 0.4

Câu hỏi thường gặp

Khi xuất hiện 429 có nên hạ cấp sang model dự phòng không?

Nên chuẩn bị sẵn một model dự phòng. Model này của Google có nhiều node upstream để gateway chuyển đổi. Đưa tên mô hình vào config, đổi upstream sẽ không cần sửa code.

429 có liên quan cách tính phí của gemini-2.5-flash-lite không?

Không bị tính phí, chỉ output thực sự được tạo mới tính vào sử dụng. Chỉ phần đầu ra đã tạo mới bị tính phí, phần thất bại thì không. Với cách tính phí p * 0.1 + cr * 0.01 + ai * 0.3 + c * 0.4, chi phí output dài chủ yếu từ output token. Kiểm tra số dư và giới hạn tốc độ trong console trước, rồi mới xem code.

429 có liên quan đến năng lực của chính model không?

Lỗi này không liên quan năng lực model, mà ở tầng gateway. Thẻ năng lực của model này là Reasoning, Tools, Files, Vision, Audio. Ở tỷ lệ thành công 100%, 429 thỉnh thoảng là biến động bình thường. Nếu lỗi kéo dài vài phút, hãy liên hệ hỗ trợ của nền tảng để xác nhận trạng thái upstream.

Có nên thêm jitter ngẫu nhiên khi thử lại không?

Thường không cần sửa code nghiệp vụ, chỉ cần điều chỉnh nhịp gọi. Thử lại là bước đầu tiên hiệu quả nhất. Tỷ lệ thành công đo được là 100%, nên lần thử lại đầu tiên thường mang lại lợi ích lớn nhất. Với cách tính phí p * 0.1 + cr * 0.01 + ai * 0.3 + c * 0.4, các request thất bại không được tính vào mức sử dụng. Đặt giới hạn thử lại ở 3–5 lần và thêm jitter.

Lỗi khác của mô hình này

Các mô hình khác gặp cùng lỗi

Dữ liệu cập nhật: 2026-10-10 15:45

Hỗ trợ kỹ thuậtHỗ trợ trực tuyến
Về đầu trang