エラー 429：llama-3.3-70b-instruct の呼び出しに失敗したときの対処

429 はレート制限に達したことを意味します。一定時間内のリクエスト数またはトークン数が現在のプランの上限を超えています。

429 Too Many Requests はエラーではなく、レート制限の応答です。リクエスト自体は正しく、現在のプランで許可されたリクエスト速度または同時実行数を超えただけです。レスポンスヘッダーが示す時間だけ待って再試行すれば復旧し、リクエスト本文を変更する必要はありません。

llama-3.3-70b-instruct は Meta が提供しており、このページの誘因分析・対処法・実測データはすべてゲートウェイ層におけるこのモデルの実際の稼働実績に基づいています。

このゲートウェイで最も多い诱因は「同時リクエストが多すぎる」です。まず取り組むべき対処は「並行数を制限し指数的バックオフで再試行」です。

主な原因

  • 同時リクエストが多すぎる
  • 現在のプランのクォータを消費
  • 待機なしで即座に再試行

対処方法

  • 並行数を制限し指数的バックオフで再試行
  • クォータの大きいプランへ変更
  • 繰り返しリクエストをキャッシュ

指数バックオフによるリトライ例

以下のコードは、llama-3.3-70b-instruct が 429 を返したときに最大 5 回まで再試行します。待機時間は指数的に増加し、ランダムなジッタを加えることで同時再試行を防ぎます。base URL と API キーは環境変数から読み取り、コードに直接書かないでください。

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'llama-3.3-70b-instruct'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

このモデルの主要データ

API エンドポイントhttps://api.airai.cc/v1
OpenAI 互換OpenAI-compatible
提供元Meta
コンテキスト128K
対応機能Tools, Files, Open Weights
API形式openai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
課金計算式p * 0 + c * 0

よくある質問

再試行すべきステータスコードと、再試行しても無意味なコードはどれですか？

再試行が最も効果的な最初の一歩です。課金方式が p * 0 + c * 0 の場合、失敗したリクエストは利用量に含まれません。再試行可能なエラーには指数バックオフを使い、それ以外は即座にエラーを返してください。

llama-3.3-70b-instruct とのマルチターン対話では 429 が発生しやすくなりますか？

クライアント側の設定問題であり、サーバー側の変更は不要です。このモデルの能力タグは Tools, Files, Open Weights で、パラメータの上限はその能力セットに従います。パラメータ起因のエラーはすぐ失敗させ、再試行を無駄にしないでください。長い入力は先に切り詰めるか要約すると、429 の発生率を大きく下げられます。

他社の同等モデルに変更すれば 429 は解消しますか？

あわせて予備のモデルも用意しておくことをおすすめします。アーキテクチャ側にフォールバックを用意する方が、エラーを一つずつ直すより確実です。Meta のこのモデルには、ゲートウェイが切り替えられる upstream ノードが複数あります。モデル名は設定項目にしておくと、upstream を切り替えてもコード変更が不要です。

問題を報告する際、サポートに何を提供すべきですか？

本番だけで起きるなら、たいていはモデルではなく環境の違いです。このモデルは Meta が提供しており、upstream の状態は提供元の告知に準じます。失敗のたびにリクエスト ID を記録してください。ステータスコードより有用です。

このモデルの他のエラー

同じエラーが出る他のモデル

モデルページに戻る

データ更新: 2026-10-10 18:35

テクニカルサポートオンラインサポート
トップへ戻る