Lỗi timeout: cần làm gì khi gọi claude-fable-5.1 thất bại

Hết thời gian chờ nghĩa là client bỏ cuộc trước khi phản hồi tới. Yêu cầu streaming tới LLM hay gặp nhất, vì mô hình phải suy nghĩ trước token đầu tiên và giai đoạn đó không tạo ra byte nào.

timeout không phải là mã trạng thái HTTP mà là giới hạn chờ phía client. Request thường đã đến gateway và được chuyển tiếp lên upstream, nhưng model không tạo ra kết quả trong thời gian bạn đặt. Ba nguyên nhân phổ biến nhất là context dài, output dài và gọi không dùng streaming.

claude-fable-5.1 được Anthropic cung cấp. Mọi nội dung trên trang này — nguyên nhân, cách xử lý và dữ liệu đo được — đều tổng hợp từ hoạt động thực tế của mô hình này tại lớp gateway.

Tại gateway này, nguyên nhân thường gặp nhất là: Đặt thời gian chờ phía client quá ngắn. Hành động đầu tiên nên làm là: Tăng thời gian chờ phía client lên 300 giây trở lên.

Nguyên nhân thường gặp

  • Đặt thời gian chờ phía client quá ngắn
  • Prompt hoặc ngữ cảnh dài làm độ trễ token đầu tăng
  • Mô hình đang xử lý tác vụ suy luận dài
  • Mạng chập chờn

Cách khắc phục

  • Tăng thời gian chờ phía client lên 300 giây trở lên
  • Bật streaming để không phải chờ toàn bộ câu trả lời
  • Rút ngắn ngữ cảnh hoặc dùng mô hình nhanh hơn
  • Giảm max_tokens

Ví dụ thử lại với backoff luỹ thừa

Đoạn mã dưới sẽ thử lại khi claude-fable-5.1 trả về timeout, tối đa 5 lần, thời gian chờ tăng dần kèm jitter ngẫu nhiên để các request đồng thời không retry cùng lúc. Hãy đọc base URL và API key từ biến môi trường, đừng hardcode vào code.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'claude-fable-5.1'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Dữ liệu chính của mô hình này

Điểm cuối APIhttps://api.airai.cc/v1
Tương thích OpenAIOpenAI-compatible
Nhà cung cấpAnthropic
Định dạng APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Giảm giá cache0.025×

Câu hỏi thường gặp

Đổi model khác có tránh được timeout trên claude-fable-5.1 không?

Nên chuẩn bị sẵn một model dự phòng. Có phương án dự phòng ở cấp kiến trúc thì đáng tin hơn là vá từng lỗi một. Model này của Anthropic có nhiều node upstream để gateway chuyển đổi. Chuẩn bị sẵn một mô hình dự phòng nhẹ hơn để luồng chính không bị gián đoạn. Đưa tên mô hình vào config, đổi upstream sẽ không cần sửa code.

timeout tự phục hồi hay cần can thiệp thủ công?

Lỗi này không liên quan năng lực model, mà ở tầng gateway. Xác định trước là cấp tài khoản hay cấp mô hình; hai trường hợp xử lý hoàn toàn khác nhau.

Output bị cụt của claude-fable-5.1 có phải là timeout không?

Hãy giữ lại request ID và nội dung phản hồi gốc, nếu không sẽ không truy vết được. Mô hình này do Anthropic cung cấp, vì vậy trạng thái upstream theo thông báo của nhà cung cấp. Tái hiện trước trong môi trường thử nghiệm với cùng request body.

Dùng chung một key cho nhiều dịch vụ có làm timeout dễ xảy ra hơn không?

Tăng hạn mức gói hoặc giảm tần suất gọi đều giúp ích. Giá input khoảng $10.00 / triệu token. Khi ước tính chi phí từ , hãy tính cả ngân sách thử lại.

Lỗi khác của mô hình này

Các mô hình khác gặp cùng lỗi

Dữ liệu cập nhật: 2026-10-10 08:15

Hỗ trợ kỹ thuậtHỗ trợ trực tuyến
Về đầu trang