Error 403: apa yang harus dilakukan saat llama-3.3-70b-instruct gagal

Kode 403 berarti Anda sudah terautentikasi tetapi tidak diizinkan: kuncinya valid, namun tidak boleh memanggil model ini atau grup ini.

403 Forbidden berarti identitas dikenali tetapi akses ditolak. Bedanya dengan 401: 401 bertanya siapa Anda, 403 mengatakan Anda tidak punya izin. Biasanya model perlu ditambahkan ke daftar yang diizinkan atau grup yang terikat dengan key Anda.

llama-3.3-70b-instruct disediakan oleh Meta. Semua di halaman ini — penyebab, solusi, dan data terukur — disusun dari perilaku runtime nyata model ini di lapisan gateway.

Di gateway ini, pemicu yang paling umum adalah: Kunci ini tidak diizinkan untuk model ini. Tindakan pertama yang disarankan: Tambahkan model ini ke daftar izin kunci di halaman Token.

Penyebab umum

  • Kunci ini tidak diizinkan untuk model ini
  • Model tidak ada di grup tempat kunci terikat
  • Kunci punya daftar IP yang diizinkan dan IP Anda saat ini tidak termasuk
  • Model sudah dihentikan atau butuh izin lebih tinggi

Cara mengatasi

  • Tambahkan model ini ke daftar izin kunci di halaman Token
  • Pastikan grup kunci mencakup model ini
  • Periksa pengaturan daftar IP yang diizinkan
  • Beralih ke model yang boleh Anda panggil

Contoh percobaan ulang dengan exponential backoff

Kode di bawah mencoba ulang ketika llama-3.3-70b-instruct mengembalikan 403, maksimal 5 kali, dengan waktu tunggu yang meningkat plus jitter acak agar permintaan paralel tidak mengulang bersamaan. Baca base URL dan API key dari environment variable, jangan hardcode.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'llama-3.3-70b-instruct'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Data penting model ini

Endpoint APIhttps://api.airai.cc/v1
Kompatibel OpenAIOpenAI-compatible
VendorMeta
Konteks128K
KemampuanTools, Files, Open Weights
Format APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Rumus penagihanp * 0 + c * 0

FAQ

Apakah 403 terkait cara penagihan llama-3.3-70b-instruct?

Hanya output yang sudah dihasilkan yang ditagihkan; bagian yang gagal tidak. Dengan penagihan p * 0 + c * 0, biaya output panjang sebagian besar dari token output. Periksa saldo dan batas laju di konsol dulu, baru periksa kodenya. Saat memperkirakan biaya dari p * 0 + c * 0, sertakan juga anggaran percobaan ulang.

Mana yang lebih sering memicu 403: langsung dari frontend atau lewat backend?

Fallback di tingkat arsitektur lebih andal daripada menambal setiap error satu per satu. Model dari Meta ini punya beberapa node upstream yang bisa diganti gateway. Siapkan model cadangan yang lebih ringan agar alur utama tidak terputus. Taruh nama model di konfigurasi, sehingga ganti upstream tidak perlu mengubah kode.

Saat llama-3.3-70b-instruct mengembalikan 403, gateway atau upstream yang lebih mungkin bermasalah?

Error ini tidak terkait kemampuan model, melainkan level gateway. Biasanya bersifat sementara dan pulih sendiri. Tag kapabilitas model ini adalah Tools, Files, Open Weights. Tentukan dulu apakah ini level akun atau level model; penanganannya benar-benar berbeda.

Berapa batas jumlah retry yang wajar?

Biasanya kode bisnis tidak perlu diubah, cukup atur ritme pemanggilan. Dengan penagihan p * 0 + c * 0, permintaan yang gagal tidak dihitung dalam penggunaan. Gunakan exponential backoff untuk error yang bisa diulang, dan kembalikan error segera untuk sisanya.

Error lain pada model ini

Model lain dengan error yang sama

Kembali ke halaman model

Data diperbarui: 2026-10-11 15:15

Dukungan teknisDukungan langsung
Kembali ke atas