Ошибка 503: что делать, если gemini-flash-latest не отвечает

Код 503 означает, что сервис временно недоступен — обычно из-за обслуживания или перегрузки. В отличие от 429, дело не в вашей квоте, а в ёмкости на стороне сервера.

503 Service Unavailable означает, что сервис сейчас не может обработать запрос — обычно из-за перегрузки или обслуживания. Разница с 429 важна: 429 — закончилась ваша квота, 503 — не хватает мощности сервера. Увеличьте интервал повтора, а не меняйте ключ.

gemini-flash-latest предоставляется компанией Google. Всё на этой странице — причины, решения и измеренные данные — собрано по реальной работе этой модели на уровне шлюза.

В этом шлюзе самая частая причина — Вышестоящая модель перегружена. Рекомендуемое первое действие: Повторите позже с большей задержкой.

Возможные причины

  • Вышестоящая модель перегружена
  • Сервис на обслуживании или обновляется
  • Узел в вашем регионе недоступен
  • Резкий всплеск трафика

Как исправить

  • Повторите позже с большей задержкой
  • Переключитесь на менее загруженную аналогичную модель
  • Не запускайте пакетные задачи в часы пик
  • Следите за нашими объявлениями

Повтор с экспоненциальной задержкой

Ниже — пример повтора, когда gemini-flash-latest возвращает 503: до 5 попыток, ожидание растёт и добавляется случайный джиттер, чтобы параллельные запросы не повторялись одновременно. Base URL и API key читаются из переменных окружения — не хардкодьте их.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'gemini-flash-latest'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Ключевые данные этой модели

API-эндпоинтhttps://api.airai.cc/v1
Совместимо с OpenAIOpenAI-compatible
ПроизводительGoogle
Контекст1M
ВозможностиReasoning, Tools, Files, Vision, Audio
Форматы APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Формула биллингаp * 0.75 + cr * 0.075 + ai * 0.75 + c * 3.75

Частые вопросы

Связан ли 503 с тарификацией gemini-flash-latest?

Списания не будет: в استخدام идёт только реально сгенерированный вывод. Цена ввода — около $0.75 за миллион токенов. Сначала проверьте баланс и лимиты скорости в консоли, потом ищите в коде.

Какие коды стоит повторять, а какие бесполезно?

Повтор — самый эффективный первый шаг. При тарифе p * 0.75 + cr * 0.075 + ai * 0.75 + c * 3.75 неудачные запросы не идут в использование. Для повторяемых ошибок используйте экспоненциальную задержку, для остальных возвращайте ошибку сразу.

Когда gemini-flash-latest возвращает 503, какие поля смотреть в теле ответа?

Сгруппируйте ошибки по времени и узлу: закономерность обычно видна сразу. Сохраняйте идентификатор запроса и исходный текст ответа, иначе локализовать нечего. Модель предоставляется Google, поэтому статус upstream определяется объявлениями вендора. Логируйте идентификатор запроса при каждом отказе — он полезнее кода состояния. Сначала воспроизведите это в тестовом окружении с тем же телом запроса.

Помогает ли переход на потоковый вывод уменьшить 503?

Нужно менять параметры запроса, один повтор не поможет. Это проблема конфигурации клиента, на сервере менять ничего не нужно. Теги возможностей — Reasoning, Tools, Files, Vision, Audio, от них зависят пределы параметров. Окно контекста 1M задаёт максимальный ввод за запрос; всё, что больше, отклоняется сразу. Для ошибок параметров сразу возвращайте ошибку, не тратя повторы. Обрезайте или сжимайте длинный ввод — это заметно снижает вероятность 503.

Другие ошибки этой модели

Другие модели с той же ошибкой

Вернуться к странице модели

Данные обновлены: 2026-10-11 15:15

Техническая поддержкаОнлайн-поддержка
Наверх