llama-2-70b — giá, ngữ cảnh và hiệu năng

llama-2-70b là mô hình của Meta, dùng được trên AirAI. Đầu vào $2.00, đầu ra $2.00 mỗi 1 triệu token.

Tổng quan

Giá

Chỉ liệt kê các nhóm được bật cho mô hình này.

Hiệu năng

Câu hỏi thường gặp

So sánh mô hình

Xử lý lỗi

429 là phản hồi giới hạn tốc độ. Giảm đồng thời, thử lại có chờ, hoặc chuyển sang gói có hạn ngạch lớn hơn.

Nguyên nhân thường gặp

• Quá nhiều yêu cầu đồng thời
• Hết hạn ngạch của gói hiện tại
• Thử lại ngay không chờ

Cách khắc phục

• Giới hạn đồng thời và thử lại với thời gian chờ tăng dần
• Chuyển sang gói hạn ngạch lớn hơn
• Lưu cache các yêu cầu lặp lại

Cách kết nối

curl https://api.airai.cc/v1/chat/completions \
  -H "Authorization: Bearer <YOUR_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llama-2-70b",
    "messages": [{"role": "user", "content": "Hello"}]
  }'

from openai import OpenAI

client = OpenAI(
    api_key="<YOUR_API_KEY>",
    base_url="https://api.airai.cc/v1"
)

response = client.chat.completions.create(
    model="llama-2-70b",
    messages=[{"role": "user", "content": "Hello"}]
)
print(response.choices[0].message.content)

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: "<YOUR_API_KEY>",
  baseURL: "https://api.airai.cc/v1"
});

const response = await client.chat.completions.create({
  model: "llama-2-70b",
  messages: [{ role: "user", content: "Hello" }]
});
console.log(response.choices[0].message.content);

const OpenAI = require("openai");

const client = new OpenAI({
  apiKey: "<YOUR_API_KEY>",
  baseURL: "https://api.airai.cc/v1"
});

client.chat.completions.create({
  model: "llama-2-70b",
  messages: [{ role: "user", content: "Hello" }]
}).then((r) => console.log(r.choices[0].message.content));

Thay <YOUR_API_KEY> bằng API Key trong cài đặt token của bạn.

Endpoint tương thích

Gemini SDK · TypeScript

import { GoogleGenerativeAI } from "@google/generative-ai";

const genAI = new GoogleGenerativeAI("<YOUR_API_KEY>");
const model = genAI.getGenerativeModel({ model: "llama-2-70b" });

const result = await model.generateContent(
  "Explain quantum entanglement in one paragraph."
);
console.log(result.response.text());

Xác thực

Mọi yêu cầu phải mang header Authorization: Bearer <TOKEN>. Các endpoint định dạng Anthropic cũng chấp nhận header x-api-key. Tạo API Key tại trang Token, nơi bạn có thể giới hạn theo mô hình, nhóm, IP và tốc độ.

Tham số được hỗ trợ

Giới hạn tốc độ

Dữ liệu cập nhật: 2026-10-10 08:15