Error 502: apa yang harus dilakukan saat gemini-3.7-flash gagal

Kode 502 berarti gateway menerima respons tidak valid dari layanan model hulu: permintaan sampai ke gateway, tetapi lompatan ke hulu gagal.

502 Bad Gateway berarti gateway menerima respons tidak valid dari layanan model upstream. Permintaan sudah sampai gateway; kegagalan terjadi pada lompatan dari gateway ke upstream, biasanya karena node upstream restart atau koneksi terputus.

gemini-3.7-flash disediakan oleh Google. Semua di halaman ini — penyebab, solusi, dan data terukur — disusun dari perilaku runtime nyata model ini di lapisan gateway.

Di gateway ini, pemicu yang paling umum adalah: Layanan model hulu tidak tersedia atau mengembalikan respons cacat. Tindakan pertama yang disarankan: Coba sekali lagi — 502 biasanya sementara.

Penyebab umum

  • Layanan model hulu tidak tersedia atau mengembalikan respons cacat
  • Node hulu sedang restart
  • Koneksi gateway ke hulu terputus
  • Model sementara dihentikan

Cara mengatasi

  • Coba sekali lagi — 502 biasanya sementara
  • Beralih ke model setara dari vendor lain
  • Jika hanya satu model yang terus 502, hulunya bermasalah
  • Coba lagi nanti atau hubungi kami

Contoh percobaan ulang dengan exponential backoff

Kode di bawah mencoba ulang ketika gemini-3.7-flash mengembalikan 502, maksimal 5 kali, dengan waktu tunggu yang meningkat plus jitter acak agar permintaan paralel tidak mengulang bersamaan. Baca base URL dan API key dari environment variable, jangan hardcode.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'gemini-3.7-flash'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Data penting model ini

Endpoint APIhttps://api.airai.cc/v1
Kompatibel OpenAIOpenAI-compatible
VendorGoogle
Konteks1M
KemampuanReasoning, Tools, Files, Vision, Audio
Format APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Rumus penagihanp * 0.75 + cr * 0.075 + ai * 0.75 + c * 3.75

FAQ

Apakah 502 lebih sering terjadi di percakapan multi-giliran dengan gemini-3.7-flash?

Parameter permintaan harus diubah, mencoba ulang saja tidak membantu. Ini masalah konfigurasi sisi klien, sisi server tidak perlu diubah. Jendela konteks 1M menentukan input maksimum per permintaan; yang melebihinya langsung ditolak. Potong atau ringkas input yang panjang — ini menurunkan 502 secara nyata.

Apakah berbagi satu key di beberapa layanan membuat 502 lebih mungkin?

Ini terutama soal kuota, bukan kerusakan model. Menaikkan batas paket atau menurunkan frekuensi pemanggilan, keduanya membantu. Penagihan mengikuti p * 0.75 + cr * 0.075 + ai * 0.75 + c * 3.75, tanpa output berarti tanpa tagihan. Harga input sekitar $0.75 per juta token. Saat memperkirakan biaya dari p * 0.75 + cr * 0.075 + ai * 0.75 + c * 3.75, sertakan juga anggaran percobaan ulang.

Apakah permintaan yang gagal tetap dihitung dalam kuota rate limit?

Tidak ada tagihan, hanya output yang benar-benar dihasilkan yang dihitung. Hanya output yang sudah dihasilkan yang ditagihkan; bagian yang gagal tidak. Dengan penagihan p * 0.75 + cr * 0.075 + ai * 0.75 + c * 3.75, biaya output panjang sebagian besar dari token output. Dengan penagihan p * 0.75 + cr * 0.075 + ai * 0.75 + c * 3.75, permintaan yang gagal tidak dihitung dalam penggunaan. Periksa saldo dan batas laju di konsol dulu, baru periksa kodenya. Saat memperkirakan biaya dari p * 0.75 + cr * 0.075 + ai * 0.75 + c * 3.75, sertakan juga anggaran percobaan ulang.

Berapa lama timeout sebaiknya dipasang?

Variabel sebenarnya di sini adalah konkurensi dan timeout, bukan modelnya. Turunkan konkurensi terlebih dahulu — sebagian besar masalah throughput akan hilang. Model ini memiliki context window 1M dan berasal dari Google. Tambahkan lapisan cache agar permintaan berulang tidak semuanya sampai ke model. Ratakan lonjakan dengan batch atau antrean — lebih stabil daripada menaikkan konkurensi mendadak.

Error lain pada model ini

Model lain dengan error yang sama

Kembali ke halaman model

Data diperbarui: 2026-10-10 15:40

Dukungan teknisDukungan langsung
Kembali ke atas