Lỗi 504: cần làm gì khi gọi doubao-seed-1-6-vision-250815 thất bại
Mã 504 nghĩa là cổng đã hết thời gian chờ mô hình thượng nguồn: yêu cầu đã được gửi, nhưng thượng nguồn không phản hồi trong thời gian cổng cho phép.
504 Gateway Timeout nghĩa là gateway đã hết kiên nhẫn chờ phản hồi từ upstream. Request đã được chuyển tiếp nhưng không có kết quả trong giới hạn của gateway. Rút ngắn output, bật streaming hoặc giảm max_tokens thường giải quyết được.
doubao-seed-1-6-vision-250815 được Volcengine Ark cung cấp. Mọi nội dung trên trang này — nguyên nhân, cách xử lý và dữ liệu đo được — đều tổng hợp từ hoạt động thực tế của mô hình này tại lớp gateway.
Tại gateway này, nguyên nhân thường gặp nhất là: Thượng nguồn mất nhiều thời gian hơn giới hạn của cổng. Hành động đầu tiên nên làm là: Chuyển sang đầu ra streaming.
Nguyên nhân thường gặp
- Thượng nguồn mất nhiều thời gian hơn giới hạn của cổng
- Ngữ cảnh dài làm tăng thời gian suy luận
- Nút thượng nguồn bị treo
- Yêu cầu không streaming với đầu ra rất dài
Cách khắc phục
- Chuyển sang đầu ra streaming
- Rút ngắn ngữ cảnh và giảm max_tokens
- Thử lại sau một lúc
- Dùng mô hình suy luận nhanh hơn
Ví dụ thử lại với backoff luỹ thừa
Đoạn mã dưới sẽ thử lại khi doubao-seed-1-6-vision-250815 trả về 504, tối đa 5 lần, thời gian chờ tăng dần kèm jitter ngẫu nhiên để các request đồng thời không retry cùng lúc. Hãy đọc base URL và API key từ biến môi trường, đừng hardcode vào code.
import os, time, random
import requests
BASE = os.getenv("OPENAI_BASE_URL") # e.g. https://<your-gateway>/v1
KEY = os.getenv("OPENAI_API_KEY")
MODEL = 'doubao-seed-1-6-vision-250815'
def chat(messages, retries=5):
"""Retry with exponential backoff + jitter."""
for i in range(retries):
try:
r = requests.post(
BASE + "/chat/completions",
headers={"Authorization": "Bearer " + KEY},
json={"model": MODEL, "messages": messages, "stream": True},
timeout=60,
)
if r.status_code == 429 or r.status_code >= 500:
time.sleep(min(2 ** i + random.uniform(0, 1), 30))
continue
r.raise_for_status()
return r.json()
except requests.exceptions.Timeout:
time.sleep(min(2 ** i + random.uniform(0, 1), 30))
raise RuntimeError("gave up after " + str(retries) + " retries")
print(chat([{"role": "user", "content": "hello"}]))Dữ liệu chính của mô hình này
| Điểm cuối API | https://api.airai.cc/v1 |
|---|---|
| Tương thích OpenAI | OpenAI-compatible |
| Nhà cung cấp | Volcengine Ark |
|---|---|
| Ngữ cảnh | 256K |
| Khả năng | Reasoning, Tools, Files, Vision |
| Định dạng API | openai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search |
| Công thức tính phí | p * 0.109589 + cr * 0.0219178 + c * 1.09589) : len <= 128000 ? tier("32k_128k", p * 0.164384 + cr * 0.0219178 + c * 2.19178) : tier("128k_plus", p * 0.328767 + cr * 0.0219178 + c * 3.28767 |
Câu hỏi thường gặp
Đặt max_tokens quá cao có gây ra 504 không?
Cần đổi tham số request, chỉ thử lại sẽ không giúp được. Nhãn năng lực là Reasoning, Tools, Files, Vision, và giới hạn tham số bắt nguồn từ tập năng lực đó. Cửa sổ ngữ cảnh 256K quyết định đầu vào tối đa mỗi request; vượt quá sẽ bị từ chối ngay. Cắt ngắn hoặc tóm tắt đầu vào dài — giảm 504 một cách rõ rệt.
504 lặp lại trên doubao-seed-1-6-vision-250815, lỗi do model hay do tài khoản?
Lỗi này không liên quan năng lực model, mà ở tầng gateway. Thẻ năng lực của model này là Reasoning, Tools, Files, Vision. Nếu lỗi kéo dài vài phút, hãy liên hệ hỗ trợ của nền tảng để xác nhận trạng thái upstream.
Dùng chung một key cho nhiều dịch vụ có làm 504 dễ xảy ra hơn không?
Chủ yếu là vấn đề hạn mức, không phải model bị lỗi. Tăng hạn mức gói hoặc giảm tần suất gọi đều giúp ích. Giá input khoảng $0.11 / triệu token. Kiểm tra số dư và giới hạn tốc độ trong console trước, rồi mới xem code. Khi ước tính chi phí từ p * 0.109589 + cr * 0.0219178 + c * 1.09589) : len <= 128000 ? tier("32k_128k", p * 0.164384 + cr * 0.0219178 + c * 2.19178) : tier("128k_plus", p * 0.328767 + cr * 0.0219178 + c * 3.28767, hãy tính cả ngân sách thử lại.
Khi 504 xảy ra thường xuyên nên ghi lại thông tin gì?
Gom lỗi theo thời gian và theo node trước; quy luật thường rất rõ. Nếu chỉ xảy ra ở môi trường production, thường là khác biệt môi trường chứ không phải mô hình. Mô hình này do Volcengine Ark cung cấp, vì vậy trạng thái upstream theo thông báo của nhà cung cấp. Ghi lại request ID mỗi lần thất bại — hữu dụng hơn status code. Tái hiện trước trong môi trường thử nghiệm với cùng request body.
Lỗi khác của mô hình này
- doubao-seed-1-6-vision-250815: lỗi 429 — nguyên nhân và cách khắc phục
- doubao-seed-1-6-vision-250815: lỗi timeout — nguyên nhân và cách khắc phục
- doubao-seed-1-6-vision-250815: lỗi 500 — nguyên nhân và cách khắc phục
- doubao-seed-1-6-vision-250815: lỗi 502 — nguyên nhân và cách khắc phục
- doubao-seed-1-6-vision-250815: lỗi 503 — nguyên nhân và cách khắc phục
- doubao-seed-1-6-vision-250815: lỗi 401 — nguyên nhân và cách khắc phục
- doubao-seed-1-6-vision-250815: lỗi 403 — nguyên nhân và cách khắc phục
- doubao-seed-1-6-vision-250815: lỗi 400 — nguyên nhân và cách khắc phục
Các mô hình khác gặp cùng lỗi
- gpt-5
- claude-opus-5
- gemini-2.5-pro
- deepseek-v4-pro
- grok-4.3
- llama-3.3-70b-instruct
- qvq-max
- qwq-32b
- glm-5
- MiniMax-M3
- kimi-k3
- hy3
- doubao-seed-evolving
- mimo-v2.5
- gpt-4o
- claude-opus-4-6
Dữ liệu cập nhật: 2026-10-10 15:55