429 오류: gemini-2.5-pro 호출이 실패할 때 대처법

429는 속도 제한에 걸렸다는 뜻입니다. 일정 시간 내 요청 수나 토큰 수가 현재 요금제 할당량을 초과했습니다.

429 Too Many Requests 는 오류가 아니라 레이트 리밋 응답입니다. 요청 자체는 유효하지만 현재 요금제가 허용하는 요청 속도나 동시 실행 수를 초과한 것입니다. 응답 헤더가 알려주는 시간만큼 기다렸다가 재시도하면 복구되며, 요청 본문을 바꿀 필요는 없습니다.

gemini-2.5-pro 는 Google 가 제공하며, 이 페이지의 원인 분석·처리 방법·실측 데이터는 모두 게이트웨이 계층에서 이 모델의 실제 운영 상황을 바탕으로 정리했습니다.

이 게이트웨이에서 가장 흔한 원인은 「동시 요청이 너무 많음」입니다. 우선 처리할 동작은 「동시 요청을 제한하고 지수 백오프로 재시도」입니다.

주요 원인

  • 동시 요청이 너무 많음
  • 현재 요금제 쿼터 소진
  • 대기 없이 즉시 재시도

해결 방법

  • 동시 요청을 제한하고 지수 백오프로 재시도
  • 쿼터가 큰 요금제로 변경
  • 반복 요청 캐싱

지수 백오프 재시도 예시

아래 코드는 gemini-2.5-pro가 429를 반환할 때 최대 5회까지 재시도합니다. 대기 시간은 점점 길어지고 무작위 지터가 더해져 동시 재시도를 막습니다. base URL과 API 키는 환경 변수에서 읽고, 코드에 하드코딩하지 마세요.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'gemini-2.5-pro'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

이 모델의 핵심 데이터

API 엔드포인트https://api.airai.cc/v1
OpenAI 호환OpenAI-compatible
제공사Google
컨텍스트1M
지원 기능Reasoning, Tools, Files, Vision, Audio
API 형식openai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
과금 공식p * 1.25 + cr * 0.125 + c * 10) : tier("200k_plus", p * 2.5 + cr * 0.25 + c * 15

자주 묻는 질문

다른 모델로 바꾸면 gemini-2.5-pro의 429를 피할 수 있나요?

예비 모델도 함께 준비해 두세요. Google 의 이 모델에는 게이트웨이가 전환할 수 있는 upstream 노드가 여러 개 있습니다. 더 가벼운 예비 모델을 준비해 두면 주 흐름이 끊기지 않습니다. 모델 이름을 설정값으로 두면 업스트림을 바꿀 때 코드를 고칠 필요가 없습니다.

비동기나 배치 처리로 429 를 피할 수 있나요?

여기서 진짜 변수는 동시성과 타임아웃이며, 모델 자체가 아닙니다. 먼저 동시성을 낮추세요. 처리량 문제의 대부분은 그것으로 사라집니다. 이 모델의 컨텍스트 윈도우는 1M, 벤더는 Google 입니다. 컨텍스트 1M 에서는 긴 입력이 첫 토큰 지연을 크게 늘립니다. 캐시 계층을 두면 반복 요청이 모두 모델에 도달하지 않습니다.

max_tokens 를 너무 크게 하면 429 가 발생하나요?

요청 파라미터를 바꿔야 하며, 재시도만으로는 해결되지 않습니다. 클라이언트 설정 문제이므로 서버 쪽을 바꿀 필요는 없습니다. 이 모델의 기능 태그는 Reasoning, Tools, Files, Vision, Audio 이며, 파라미터 상한은 그 기능 집합에서 비롯됩니다. 컨텍스트 1M 가 요청 한 건의 최대 입력을 결정하며, 초과분은 바로 거부됩니다. 파라미터 오류는 즉시 실패시키고 재시도를 낭비하지 마세요.

하나의 키를 여러 서비스에서 공유하면 429 가 더 잘 발생하나요?

요금제 한도를 높이거나 호출 빈도를 낮추는 것 모두 도움이 됩니다. 과금은 p * 1.25 + cr * 0.125 + c * 10) : tier("200k_plus", p * 2.5 + cr * 0.25 + c * 15 방식을 따르며 출력이 없으면 청구되지 않습니다. p * 1.25 + cr * 0.125 + c * 10) : tier("200k_plus", p * 2.5 + cr * 0.25 + c * 15 과금에서는 긴 출력 비용이 대부분 출력 토큰에서 발생합니다. 먼저 콘솔에서 잔액과 속도 제한을 확인한 뒤 코드를 살펴보세요.

이 모델의 다른 오류

같은 오류가 나는 다른 모델

모델 페이지로 돌아가기

데이터 업데이트: 2026-10-10 08:15

기술 지원온라인 상담
맨 위로