Lỗi 504: cần làm gì khi gọi claude-fable-5 thất bại

Mã 504 nghĩa là cổng đã hết thời gian chờ mô hình thượng nguồn: yêu cầu đã được gửi, nhưng thượng nguồn không phản hồi trong thời gian cổng cho phép.

504 Gateway Timeout nghĩa là gateway đã hết kiên nhẫn chờ phản hồi từ upstream. Request đã được chuyển tiếp nhưng không có kết quả trong giới hạn của gateway. Rút ngắn output, bật streaming hoặc giảm max_tokens thường giải quyết được.

claude-fable-5 được Anthropic cung cấp. Mọi nội dung trên trang này — nguyên nhân, cách xử lý và dữ liệu đo được — đều tổng hợp từ hoạt động thực tế của mô hình này tại lớp gateway.

Tại gateway này, nguyên nhân thường gặp nhất là: Thượng nguồn mất nhiều thời gian hơn giới hạn của cổng. Hành động đầu tiên nên làm là: Chuyển sang đầu ra streaming.

Nguyên nhân thường gặp

  • Thượng nguồn mất nhiều thời gian hơn giới hạn của cổng
  • Ngữ cảnh dài làm tăng thời gian suy luận
  • Nút thượng nguồn bị treo
  • Yêu cầu không streaming với đầu ra rất dài

Cách khắc phục

  • Chuyển sang đầu ra streaming
  • Rút ngắn ngữ cảnh và giảm max_tokens
  • Thử lại sau một lúc
  • Dùng mô hình suy luận nhanh hơn

Ví dụ thử lại với backoff luỹ thừa

Đoạn mã dưới sẽ thử lại khi claude-fable-5 trả về 504, tối đa 5 lần, thời gian chờ tăng dần kèm jitter ngẫu nhiên để các request đồng thời không retry cùng lúc. Hãy đọc base URL và API key từ biến môi trường, đừng hardcode vào code.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'claude-fable-5'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Dữ liệu chính của mô hình này

Điểm cuối APIhttps://api.airai.cc/v1
Tương thích OpenAIOpenAI-compatible
Nhà cung cấpAnthropic
Ngữ cảnh1M
Khả năngReasoning, Tools, Files, Vision
Định dạng APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Công thức tính phíp * 10 + cr * 1 + cc * 12.5 + cc1h * 20 + c * 50

Câu hỏi thường gặp

Output bị cụt của claude-fable-5 có phải là 504 không?

Gom lỗi theo thời gian và theo node trước; quy luật thường rất rõ. Mô hình này do Anthropic cung cấp, vì vậy trạng thái upstream theo thông báo của nhà cung cấp. Tái hiện trước trong môi trường thử nghiệm với cùng request body.

Đổi model khác có tránh được 504 trên claude-fable-5 không?

Nên chuẩn bị sẵn một model dự phòng. Model này của Anthropic có nhiều node upstream để gateway chuyển đổi. Chuẩn bị sẵn một mô hình dự phòng nhẹ hơn để luồng chính không bị gián đoạn. Đưa tên mô hình vào config, đổi upstream sẽ không cần sửa code.

504 có ảnh hưởng model khác trong cùng tài khoản không?

Đa số là lỗi tạm thời và tự phục hồi. Thẻ năng lực của model này là Reasoning, Tools, Files, Vision. Nếu lỗi kéo dài vài phút, hãy liên hệ hỗ trợ của nền tảng để xác nhận trạng thái upstream. Xác định trước là cấp tài khoản hay cấp mô hình; hai trường hợp xử lý hoàn toàn khác nhau.

Trong hội thoại nhiều lượt với claude-fable-5, 504 có dễ xảy ra hơn không?

Cần đổi tham số request, chỉ thử lại sẽ không giúp được. Cửa sổ ngữ cảnh 1M quyết định đầu vào tối đa mỗi request; vượt quá sẽ bị từ chối ngay. Với lỗi tham số, hãy thất bại nhanh thay vì lãng phí lần thử lại. Cắt ngắn hoặc tóm tắt đầu vào dài — giảm 504 một cách rõ rệt.

Lỗi khác của mô hình này

Các mô hình khác gặp cùng lỗi

Dữ liệu cập nhật: 2026-10-10 15:45

Hỗ trợ kỹ thuậtHỗ trợ trực tuyến
Về đầu trang