Fehler 429: was tun, wenn gemini-3.5-flash fehlschlägt

Ein 429 bedeutet, dass eine Ratenbegrenzung gegriffen hat: Die Anzahl der Anfragen oder Tokens pro Zeitfenster hat das Kontingent Ihres Tarifs überschritten.

429 Too Many Requests ist eine Drosselungsantwort, kein Fehler. Die Anfrage selbst ist gültig, überschreitet aber die für Ihren Tarif erlaubte Anfragerate oder Parallelität. Wiederholen Sie mit Wartezeit im vom Antwortheader vorgegebenen Fenster; der Request-Body muss nicht geändert werden.

gemini-3.5-flash wird von Google bereitgestellt. Alles auf dieser Seite — Ursachen, Lösungen und gemessene Daten — basiert auf dem tatsächlichen Laufzeitverhalten dieses Modells auf der Gatewayschicht.

An diesem Gateway ist die häufigste Ursache: Zu viele parallele Anfragen. Empfohlene erste Maßnahme: Parallelität begrenzen und mit exponentiellem Backoff wiederholen.

Häufige Ursachen

  • Zu viele parallele Anfragen
  • Kontingent des aktuellen Tarifs erschöpft
  • Wiederholung ohne Pause

So beheben Sie es

  • Parallelität begrenzen und mit exponentiellem Backoff wiederholen
  • Zu einem Tarif mit größerem Kontingent wechseln
  • Wiederholte Anfragen zwischenspeichern

Wiederholung mit exponentiellem Backoff

Der folgende Code wiederholt den Aufruf, wenn gemini-3.5-flash 429 liefert: bis zu 5 Versuche, mit wachsender Wartezeit und zufälligem Jitter, damit parallele Anfragen nicht gleichzeitig wiederholen. Base-URL und API-Key werden aus Umgebungsvariablen gelesen — nicht hart codieren.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'gemini-3.5-flash'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Wichtige Daten zu diesem Modell

TPS1669.89
Durchschn. Latenz3330 ms
Erfolgsrate100%
API-Endpunkthttps://api.airai.cc/v1
OpenAI-kompatibelOpenAI-compatible
AnbieterGoogle
Kontext1M
FunktionenReasoning, Tools, Files, Vision, Audio
API-Formateopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Abrechnungsformelp * 1.5 + cr * 0.15 + ai * 1.5 + c * 9

Häufige Fragen

Wie lang sollte das Retry-Intervall sein, wenn gemini-3.5-flash 429 liefert?

Ein Retry ist der wirksamste erste Schritt. Die gemessene Erfolgsrate liegt bei 100%, der erste Retry bringt meist den größten Nutzen. Bei der Abrechnung p * 1.5 + cr * 0.15 + ai * 1.5 + c * 9 werden fehlgeschlagene Anfragen nicht angerechnet. Wiederholbare Fehler mit exponentiellem Backoff, der Rest sofort als Fehler zurückgeben.

Reduziert das Cachen von Ergebnissen 429?

Senken Sie zuerst die Parallelität — die meisten Durchsatzprobleme verschwinden dann. Der gemessene Durchsatz ist 1669.89, ein brauchbarer Richtwert für Parallelität. Glätten Sie Spitzen mit Batching oder einer Warteschlange — stabiler als Parallelität spontan zu erhöhen.

429 tritt bei gemini-3.5-flash dauerhaft auf — Modell- oder Kontoproblem?

Dieser Fehler hängt nicht mit der Modellfähigkeit zusammen, er liegt auf Gateway-Ebene. Meist ist es ein kurzzeitiges Problem, das von selbst verschwindet. Die Fähigkeits-Tags dieses Modells sind Reasoning, Tools, Files, Vision, Audio. Klären Sie zuerst Account-Ebene oder Modell-Ebene; beides wird völlig unterschiedlich behandelt.

Wie kann ich 429 bei gemini-3.5-flash vorbeugend vermeiden?

Halten Sie zusätzlich ein Ausweichmodell bereit. Ein Fallback in der Architektur ist verlässlicher als jede Fehlermeldung einzeln zu flicken. Dieses Modell von Google hat mehrere Upstream-Knoten, zwischen denen das Gateway wechseln kann. Legen Sie den Modellnamen in die Konfiguration, dann braucht ein Upstream-Wechsel keine Codeänderung.

Weitere Fehler bei diesem Modell

Andere Modelle mit demselben Fehler

Zurück zur Modellseite

Daten aktualisiert: 2026-10-10 08:15

Technischer SupportLive-Support
Nach oben