Ошибка timeout: что делать, если mimo-v2.5 не отвечает

Тайм-аут означает, что клиент сдался до прихода ответа. Чаще всего это происходит с потоковыми запросами к LLM: перед первым токеном модель думает, а на этапе размышления не выдаётся ни одного байта.

Timeout — это не HTTP-статус, а предел ожидания на стороне клиента. Запрос обычно дошёл до шлюза и был передан upstream, но модель не выдала результат за отведённое время. Длинный контекст, длинный вывод и вызовы без streaming — три самые частые причины.

mimo-v2.5 предоставляется компанией Xiaomi. Всё на этой странице — причины, решения и измеренные данные — собрано по реальной работе этой модели на уровне шлюза.

В этом шлюзе самая частая причина — Слишком маленький тайм-аут на клиенте. Рекомендуемое первое действие: Увеличьте тайм-аут клиента до 300 секунд и больше.

Возможные причины

  • Слишком маленький тайм-аут на клиенте
  • Длинный промпт или контекст повышает задержку первого токена
  • Модель выполняет длинную задачу рассуждения
  • Сетевые колебания

Как исправить

  • Увеличьте тайм-аут клиента до 300 секунд и больше
  • Включите потоковый вывод, чтобы не ждать весь ответ
  • Сократите контекст или возьмите более быструю модель
  • Уменьшите max_tokens

Повтор с экспоненциальной задержкой

Ниже — пример повтора, когда mimo-v2.5 возвращает timeout: до 5 попыток, ожидание растёт и добавляется случайный джиттер, чтобы параллельные запросы не повторялись одновременно. Base URL и API key читаются из переменных окружения — не хардкодьте их.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'mimo-v2.5'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Ключевые данные этой модели

API-эндпоинтhttps://api.airai.cc/v1
Совместимо с OpenAIOpenAI-compatible
ПроизводительXiaomi
Контекст1M
ВозможностиReasoning, Tools, Files, Open Weights, Vision, Audio
Форматы APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Формула биллингаp * 0.14 + cr * 0.0028 + c * 0.28

Частые вопросы

Помогает ли переход на потоковый вывод уменьшить timeout?

Нужно менять параметры запроса, один повтор не поможет. Это проблема конфигурации клиента, на сервере менять ничего не нужно. Окно контекста 1M задаёт максимальный ввод за запрос; всё, что больше, отклоняется сразу. Для ошибок параметров сразу возвращайте ошибку, не тратя повторы. Обрезайте или сжимайте длинный ввод — это заметно снижает вероятность timeout.

Использование одного ключа в нескольких сервисах повышает вероятность timeout?

Вопрос главным образом в квоте, а не в неисправности модели. Цена ввода — около $0.14 за миллион токенов. Сначала проверьте баланс и лимиты скорости в консоли, потом ищите в коде. Оценивая стоимость по p * 0.14 + cr * 0.0028 + c * 0.28, учитывайте и бюджет на повторы.

Когда mimo-v2.5 возвращает timeout, что вероятнее: шлюз или upstream?

Эта ошибка не связана с возможностями модели, это уровень шлюза. Теги возможностей модели: Reasoning, Tools, Files, Open Weights, Vision, Audio. Сначала решите, что это: уровень аккаунта или уровень модели — это полностью меняет обработку.

Связан ли timeout с тарификацией mimo-v2.5?

Списания не будет: в استخدام идёт только реально сгенерированный вывод. Оплачивается только уже сгенерированный вывод, неудачная часть — нет. Цена ввода — около $0.14 за миллион токенов. При тарифе p * 0.14 + cr * 0.0028 + c * 0.28 неудачные запросы не идут в использование. Сначала проверьте баланс и лимиты скорости в консоли, потом ищите в коде. Оценивая стоимость по p * 0.14 + cr * 0.0028 + c * 0.28, учитывайте и бюджет на повторы.

Другие ошибки этой модели

Другие модели с той же ошибкой

Данные обновлены: 2026-10-10 15:55

Техническая поддержкаОнлайн-поддержка
Наверх