Error 503: apa yang harus dilakukan saat gemini-3.1-pro-preview gagal

Kode 503 berarti layanan sementara tidak tersedia, biasanya karena pemeliharaan atau kelebihan beban. Berbeda dari 429, ini bukan kuota Anda melainkan masalah kapasitas di sisi server.

503 Service Unavailable berarti layanan tidak dapat menangani permintaan saat ini, biasanya karena kelebihan beban atau pemeliharaan. Perbedaan dengan 429 penting: 429 berarti kuota Anda habis, 503 berarti kapasitas server kurang. Perbesar interval backoff, jangan ganti key.

gemini-3.1-pro-preview disediakan oleh Google. Semua di halaman ini — penyebab, solusi, dan data terukur — disusun dari perilaku runtime nyata model ini di lapisan gateway.

Di gateway ini, pemicu yang paling umum adalah: Model hulu kelebihan beban. Tindakan pertama yang disarankan: Coba lagi nanti dengan jeda lebih panjang.

Penyebab umum

  • Model hulu kelebihan beban
  • Layanan sedang pemeliharaan atau peluncuran bertahap
  • Node di wilayah Anda tidak tersedia
  • Lonjakan lalu lintas mendadak

Cara mengatasi

  • Coba lagi nanti dengan jeda lebih panjang
  • Beralih ke model setara yang lebih ringan
  • Hindari tugas batch pada jam sibuk
  • Pantau pengumuman kami

Contoh percobaan ulang dengan exponential backoff

Kode di bawah mencoba ulang ketika gemini-3.1-pro-preview mengembalikan 503, maksimal 5 kali, dengan waktu tunggu yang meningkat plus jitter acak agar permintaan paralel tidak mengulang bersamaan. Baca base URL dan API key dari environment variable, jangan hardcode.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'gemini-3.1-pro-preview'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Data penting model ini

TPS3738.12
Latensi rata-rata26006 ms
Tingkat sukses100%
Endpoint APIhttps://api.airai.cc/v1
Kompatibel OpenAIOpenAI-compatible
VendorGoogle
Konteks1M
KemampuanReasoning, Tools, Files, Vision, Audio
Format APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Rumus penagihanp * 2 + cr * 0.2 + c * 12) : tier("200k_plus", p * 4 + cr * 0.4 + c * 18

FAQ

Apakah 503 di gemini-3.1-pro-preview terkait kuota akun?

Ini terutama soal kuota, bukan kerusakan model. Penagihan mengikuti p * 2 + cr * 0.2 + c * 12) : tier("200k_plus", p * 4 + cr * 0.4 + c * 18, tanpa output berarti tanpa tagihan. Dengan penagihan p * 2 + cr * 0.2 + c * 12) : tier("200k_plus", p * 4 + cr * 0.4 + c * 18, permintaan yang gagal tidak dihitung dalam penggunaan. Periksa saldo dan batas laju di konsol dulu, baru periksa kodenya. Saat memperkirakan biaya dari p * 2 + cr * 0.2 + c * 12) : tier("200k_plus", p * 4 + cr * 0.4 + c * 18, sertakan juga anggaran percobaan ulang.

Apakah 503 di gemini-3.1-pro-preview bergantung pada region atau node?

Kelompokkan error berdasarkan waktu dan node; polanya biasanya langsung terlihat. Model ini dilayani oleh Google, sehingga status upstream mengikuti pengumuman penyedia. Catat request ID pada setiap kegagalan — lebih berguna daripada kode status. Reproduksi dulu di lingkungan pengujian dengan request body yang sama.

Apakah menyimpan cache hasil mengurangi 503?

Turunkan konkurensi terlebih dahulu — sebagian besar masalah throughput akan hilang. Throughput terukur 3738.12, patokan berguna untuk batas konkurensi. Konteks 1M berarti input panjang menambah latensi token pertama secara nyata. Untuk keluaran panjang, naikkan timeout ke 60 detik atau lebih. Mulai dari konkurensi rendah, amati beberapa menit, lalu tingkatkan.

Apakah permintaan yang gagal tetap dihitung dalam kuota rate limit?

Tidak ada tagihan, hanya output yang benar-benar dihasilkan yang dihitung. Hanya output yang sudah dihasilkan yang ditagihkan; bagian yang gagal tidak. Penagihan mengikuti p * 2 + cr * 0.2 + c * 12) : tier("200k_plus", p * 4 + cr * 0.4 + c * 18, tanpa output berarti tanpa tagihan. Periksa saldo dan batas laju di konsol dulu, baru periksa kodenya.

Error lain pada model ini

Model lain dengan error yang sama

Kembali ke halaman model

Data diperbarui: 2026-10-10 18:35

Dukungan teknisDukungan langsung
Kembali ke atas