Lỗi 502: cần làm gì khi gọi hy3 thất bại

Mã 502 nghĩa là cổng nhận được phản hồi không hợp lệ từ dịch vụ mô hình thượng nguồn: yêu cầu đã tới cổng, nhưng bước chuyển tiếp tới thượng nguồn thất bại.

502 Bad Gateway nghĩa là gateway nhận được phản hồi không hợp lệ từ dịch vụ model upstream. Request đã đến gateway, lỗi xảy ra ở chặng từ gateway sang upstream, thường do node upstream khởi động lại hoặc kết nối bị ngắt.

hy3 được Tencent cung cấp. Mọi nội dung trên trang này — nguyên nhân, cách xử lý và dữ liệu đo được — đều tổng hợp từ hoạt động thực tế của mô hình này tại lớp gateway.

Tại gateway này, nguyên nhân thường gặp nhất là: Dịch vụ mô hình thượng nguồn không khả dụng hoặc trả về phản hồi sai định dạng. Hành động đầu tiên nên làm là: Thử lại một lần (502 thường là tạm thời).

Nguyên nhân thường gặp

  • Dịch vụ mô hình thượng nguồn không khả dụng hoặc trả về phản hồi sai định dạng
  • Nút thượng nguồn đang khởi động lại
  • Kết nối từ cổng tới thượng nguồn bị ngắt
  • Mô hình tạm thời bị ngừng cung cấp

Cách khắc phục

  • Thử lại một lần (502 thường là tạm thời)
  • Chuyển sang mô hình tương đương của nhà cung cấp khác
  • Nếu chỉ một mô hình liên tục 502, thượng nguồn của nó đang có sự cố
  • Thử lại sau hoặc liên hệ chúng tôi

Ví dụ thử lại với backoff luỹ thừa

Đoạn mã dưới sẽ thử lại khi hy3 trả về 502, tối đa 5 lần, thời gian chờ tăng dần kèm jitter ngẫu nhiên để các request đồng thời không retry cùng lúc. Hãy đọc base URL và API key từ biến môi trường, đừng hardcode vào code.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'hy3'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Dữ liệu chính của mô hình này

Điểm cuối APIhttps://api.airai.cc/v1
Tương thích OpenAIOpenAI-compatible
Nhà cung cấpTencent
Ngữ cảnh256K
Khả năngReasoning, Tools, Open Weights
Định dạng APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Công thức tính phíp * 0 + cr * 0 + cc * 0 + c * 0

Câu hỏi thường gặp

Khi hy3 trả 502 có cần đổi tham số request không?

Cần đổi tham số request, chỉ thử lại sẽ không giúp được. Cửa sổ ngữ cảnh 256K quyết định đầu vào tối đa mỗi request; vượt quá sẽ bị từ chối ngay. Với lỗi tham số, hãy thất bại nhanh thay vì lãng phí lần thử lại. Cắt ngắn hoặc tóm tắt đầu vào dài — giảm 502 một cách rõ rệt.

Dùng chung một key cho nhiều dịch vụ có làm 502 dễ xảy ra hơn không?

Chủ yếu là vấn đề hạn mức, không phải model bị lỗi. Tăng hạn mức gói hoặc giảm tần suất gọi đều giúp ích. Cách tính phí theo p * 0 + cr * 0 + cc * 0 + c * 0, không có output thì không tính phí. Kiểm tra số dư và giới hạn tốc độ trong console trước, rồi mới xem code.

502 có liên quan cách tính phí của hy3 không?

Không bị tính phí, chỉ output thực sự được tạo mới tính vào sử dụng. Chỉ phần đầu ra đã tạo mới bị tính phí, phần thất bại thì không. Cách tính phí theo p * 0 + cr * 0 + cc * 0 + c * 0, không có output thì không tính phí. Với cách tính phí p * 0 + cr * 0 + cc * 0 + c * 0, chi phí output dài chủ yếu từ output token. Kiểm tra số dư và giới hạn tốc độ trong console trước, rồi mới xem code. Khi ước tính chi phí từ p * 0 + cr * 0 + cc * 0 + c * 0, hãy tính cả ngân sách thử lại.

502 trên hy3 kéo dài bao lâu thì nên liên hệ hỗ trợ?

Hãy giữ lại request ID và nội dung phản hồi gốc, nếu không sẽ không truy vết được. Mô hình này do Tencent cung cấp, vì vậy trạng thái upstream theo thông báo của nhà cung cấp. Ghi lại request ID mỗi lần thất bại — hữu dụng hơn status code.

Lỗi khác của mô hình này

Các mô hình khác gặp cùng lỗi

Quay lại trang mô hình

Dữ liệu cập nhật: 2026-10-10 18:35

Hỗ trợ kỹ thuậtHỗ trợ trực tuyến
Về đầu trang