Lỗi timeout: cần làm gì khi gọi llama-3.3-70b-instruct thất bại

Hết thời gian chờ nghĩa là client bỏ cuộc trước khi phản hồi tới. Yêu cầu streaming tới LLM hay gặp nhất, vì mô hình phải suy nghĩ trước token đầu tiên và giai đoạn đó không tạo ra byte nào.

timeout không phải là mã trạng thái HTTP mà là giới hạn chờ phía client. Request thường đã đến gateway và được chuyển tiếp lên upstream, nhưng model không tạo ra kết quả trong thời gian bạn đặt. Ba nguyên nhân phổ biến nhất là context dài, output dài và gọi không dùng streaming.

llama-3.3-70b-instruct được Meta cung cấp. Mọi nội dung trên trang này — nguyên nhân, cách xử lý và dữ liệu đo được — đều tổng hợp từ hoạt động thực tế của mô hình này tại lớp gateway.

Tại gateway này, nguyên nhân thường gặp nhất là: Đặt thời gian chờ phía client quá ngắn. Hành động đầu tiên nên làm là: Tăng thời gian chờ phía client lên 300 giây trở lên.

Nguyên nhân thường gặp

  • Đặt thời gian chờ phía client quá ngắn
  • Prompt hoặc ngữ cảnh dài làm độ trễ token đầu tăng
  • Mô hình đang xử lý tác vụ suy luận dài
  • Mạng chập chờn

Cách khắc phục

  • Tăng thời gian chờ phía client lên 300 giây trở lên
  • Bật streaming để không phải chờ toàn bộ câu trả lời
  • Rút ngắn ngữ cảnh hoặc dùng mô hình nhanh hơn
  • Giảm max_tokens

Ví dụ thử lại với backoff luỹ thừa

Đoạn mã dưới sẽ thử lại khi llama-3.3-70b-instruct trả về timeout, tối đa 5 lần, thời gian chờ tăng dần kèm jitter ngẫu nhiên để các request đồng thời không retry cùng lúc. Hãy đọc base URL và API key từ biến môi trường, đừng hardcode vào code.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'llama-3.3-70b-instruct'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Dữ liệu chính của mô hình này

Điểm cuối APIhttps://api.airai.cc/v1
Tương thích OpenAIOpenAI-compatible
Nhà cung cấpMeta
Ngữ cảnh128K
Khả năngTools, Files, Open Weights
Định dạng APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Công thức tính phíp * 0 + c * 0

Câu hỏi thường gặp

Khi llama-3.3-70b-instruct trả về timeout nên đặt khoảng retry bao lâu?

Thử lại là bước đầu tiên hiệu quả nhất. Với cách tính phí p * 0 + c * 0, các request thất bại không được tính vào mức sử dụng. Dùng exponential backoff cho lỗi có thể thử lại, và trả lỗi ngay cho các lỗi còn lại.

Khi llama-3.3-70b-instruct trả timeout nên lập lịch batch thế nào?

Biến số thực sự ở đây là độ đồng thời và timeout, không phải bản thân mô hình. Hãy giảm độ đồng thời trước — hầu hết vấn đề về thông lượng sẽ biến mất. Model này có context window 128K và thuộc Meta. Context 128K nghĩa là input dài sẽ tăng đáng kể độ trễ token đầu tiên. Bắt đầu với độ đồng thời thấp, quan sát vài phút rồi tăng dần. Làm phẳng đỉnh tải bằng batch hoặc hàng đợi — ổn định hơn là tăng độ đồng thời tức thời.

Trong hội thoại nhiều lượt với llama-3.3-70b-instruct, timeout có dễ xảy ra hơn không?

Đây là lỗi cấu hình phía client, phía server không cần đổi. Nhãn năng lực là Tools, Files, Open Weights, và giới hạn tham số bắt nguồn từ tập năng lực đó. Cửa sổ ngữ cảnh 128K quyết định đầu vào tối đa mỗi request; vượt quá sẽ bị từ chối ngay. Với lỗi tham số, hãy thất bại nhanh thay vì lãng phí lần thử lại. Cắt ngắn hoặc tóm tắt đầu vào dài — giảm timeout một cách rõ rệt.

Khi llama-3.3-70b-instruct trả về timeout có bị tính phí không?

Chỉ phần đầu ra đã tạo mới bị tính phí, phần thất bại thì không. Cách tính phí theo p * 0 + c * 0, không có output thì không tính phí. Kiểm tra số dư và giới hạn tốc độ trong console trước, rồi mới xem code. Khi ước tính chi phí từ p * 0 + c * 0, hãy tính cả ngân sách thử lại.

Lỗi khác của mô hình này

Các mô hình khác gặp cùng lỗi

Quay lại trang mô hình

Dữ liệu cập nhật: 2026-10-10 08:15

Hỗ trợ kỹ thuậtHỗ trợ trực tuyến
Về đầu trang