llama-3.2-3b-instruct — цена, контекст и производительность

llama-3.2-3b-instruct — модель Meta, доступная через AirAI. Ввод $0.03, вывод $0.05 за 1 млн токенов.

Обзор

ПроизводительMeta
Форматы APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search

Цены

ТарифКоэффициентВводВыводПримечание
Базовая цена1×$0.03$0.05
Pro2×$0.06$0.10Enterprise — full reasoning, high stability.
Max4×$0.12$0.20Premium — max reasoning & stability.

Перечислены только группы, открытые для этой модели.

Производительность

API-эндпоинтhttps://api.airai.cc/v1
Совместимо с OpenAIOpenAI-compatible

Частые вопросы

Сколько стоит llama-3.2-3b-instruct?
Ввод — $0.03, вывод — $0.05 за 1 млн токенов.
Какой контекст у llama-3.2-3b-instruct?
Контекст llama-3.2-3b-instruct — не указано: это суммарный лимит токенов ввода и вывода в одном запросе.
Как вызывать llama-3.2-3b-instruct из кода?
Укажите base_url https://api.airai.cc/v1 и model llama-3.2-3b-instruct — интерфейс полностью совместим с OpenAI.
Почему llama-3.2-3b-instruct возвращает ошибку 429?
429 — это ответ о превышении лимита. Снизьте параллельность, добавьте повтор с задержкой или перейдите на тариф с большей квотой.

Сравнение моделей

ModelПроизводительВводВыводКонтекст
llama-3.2-3b-instructMeta$0.03$0.05не указано
llama-3.1-8bMeta$2.00$2.00не указано
llama-3.1-70bMeta$4.00$8.00не указано
llama-2-70bMeta$2.00$2.00не указано
llama-3-70bMeta$4.00$8.00не указано
llama-3.2-11b-vision-instructMeta$2.00$2.00не указано
llama-3-8bMeta$2.00$2.00не указано
llama-3.3-70b-instructMeta-—128K
llama-3.1-405bMeta$6.00$12.00не указано
llama-2-7bMeta$2.00$2.00не указано
llama-3.2-1b-instructMeta$0.50$0.13не указано
llama-3.2-90b-vision-instructMeta$6.00$18.00не указано

Устранение ошибок

429 — это ответ о превышении лимита. Снизьте параллельность, добавьте повтор с задержкой или перейдите на тариф с большей квотой.

Возможные причины

  • Слишком много параллельных запросов
  • Квота текущего тарифа исчерпана
  • Повтор без задержки после отказа

Как исправить

  • Ограничьте параллельность и добавьте экспоненциальную задержку
  • Переключитесь на тариф с большей квотой
  • Кэшируйте повторяющиеся запросы

Как подключить

curl https://api.airai.cc/v1/chat/completions \
  -H "Authorization: Bearer <YOUR_API_KEY>" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llama-3.2-3b-instruct",
    "messages": [{"role": "user", "content": "Hello"}]
  }'
from openai import OpenAI

client = OpenAI(
    api_key="<YOUR_API_KEY>",
    base_url="https://api.airai.cc/v1"
)

response = client.chat.completions.create(
    model="llama-3.2-3b-instruct",
    messages=[{"role": "user", "content": "Hello"}]
)
print(response.choices[0].message.content)
import OpenAI from "openai";

const client = new OpenAI({
  apiKey: "<YOUR_API_KEY>",
  baseURL: "https://api.airai.cc/v1"
});

const response = await client.chat.completions.create({
  model: "llama-3.2-3b-instruct",
  messages: [{ role: "user", content: "Hello" }]
});
console.log(response.choices[0].message.content);
const OpenAI = require("openai");

const client = new OpenAI({
  apiKey: "<YOUR_API_KEY>",
  baseURL: "https://api.airai.cc/v1"
});

client.chat.completions.create({
  model: "llama-3.2-3b-instruct",
  messages: [{ role: "user", content: "Hello" }]
}).then((r) => console.log(r.choices[0].message.content));

Замените <YOUR_API_KEY> на API Key из настроек токена.

Совместимые эндпоинты

openaiopenai-responseopenai-response-compactanthropicgeminiopenai-alpha-search

Gemini SDK · TypeScript

import { GoogleGenerativeAI } from "@google/generative-ai";

const genAI = new GoogleGenerativeAI("<YOUR_API_KEY>");
const model = genAI.getGenerativeModel({ model: "llama-3.2-3b-instruct" });

const result = await model.generateContent(
  "Explain quantum entanglement in one paragraph."
);
console.log(result.response.text());

Аутентификация

Все запросы должны содержать заголовок Authorization: Bearer <TOKEN>. Эндпоинты в формате Anthropic также принимают заголовок x-api-key. Создайте API Key на странице Токены, где можно ограничить доступ по модели, группе, IP и скорости.

Поддерживаемые параметры

ПараметрТипПо умолчаниюДиапазонОписание
temperaturefloat10–2Температура выборки; ниже — стабильнее
top_pfloat10–1Совокупная вероятность nucleus-сэмплирования
max_tokensinteger——Максимальное число токенов в ответе
frequency_penaltyfloat0−2–2Штраф за повторение частых токенов
presence_penaltyfloat0−2–2Поощряет новые темы
stopstring[]null≤ 4До 4 строк остановки генерации
seedintegernull—Сид для более воспроизводимой выборки
ninteger1—Число кандидатов
streambooleanfalse—Потоковая передача токенов через SSE
response_formatobject——Принудительный JSON или результат по схеме
toolsarray——Объявления инструментов / функций, которые может вызвать модель
tool_choicestring | objectauto—Стратегия выбора инструмента или имя инструмента
logprobsbooleanfalse—Возвращает лог-вероятность каждого токена
top_logprobsintegernull0–20Число топ-вероятностей на токен
logit_biasmap——Смещение logit по токенам
userstring——Идентификатор конечного пользователя для аудита рисков

Ограничения скорости

УровеньRPMTPMRPD
Eco990398K20K
Test980393K20K

Данные обновлены: 2026-10-10 12:10

Техническая поддержкаОнлайн-поддержка
Наверх