Erro 401: o que fazer quando llama-3.3-70b-instruct falha

Um 401 significa que a autenticação falhou: a requisição não traz API Key, ou a chave é inválida, foi excluída ou expirou.

401 Unauthorized significa que a requisição não traz credenciais válidas. O gateway não conseguiu identificar quem chamou, então a requisição nunca chega ao modelo upstream. Verificar o header Authorization e o estado da key é o único caminho.

llama-3.3-70b-instruct é fornecido por Meta. Tudo nesta página — causas, correções e dados medidos — é compilado a partir do comportamento real deste modelo na camada de gateway.

Neste gateway, o gatilho mais comum é: Falta o cabeçalho Authorization. A primeira ação recomendada é: Envie o cabeçalho como Authorization: Bearer seguido da sua chave.

Causas comuns

  • Falta o cabeçalho Authorization
  • A chave está escrita errada ou tem espaços extras
  • A chave foi excluída ou desativada na página Tokens
  • Foi usada por engano uma chave de outra plataforma

Como resolver

  • Envie o cabeçalho como Authorization: Bearer seguido da sua chave
  • Gere uma nova chave na página Tokens
  • Verifique se não está usando a chave de outro serviço
  • Valide a chave com uma requisição curl mínima

Nova tentativa com backoff exponencial

O código abaixo tenta novamente quando llama-3.3-70b-instruct retorna 401: até 5 tentativas, com espera crescente e jitter aleatório para que chamadas concorrentes não repitam ao mesmo tempo. Leia a URL base e a API key de variáveis de ambiente, nunca as deixe fixas no código.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'llama-3.3-70b-instruct'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

Dados-chave deste modelo

Endpoint da APIhttps://api.airai.cc/v1
Compatível com OpenAIOpenAI-compatible
FornecedorMeta
Contexto128K
RecursosTools, Files, Open Weights
Formatos de APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
Fórmula de cobrançap * 0 + c * 0

Perguntas frequentes

Como prevenir 401 em llama-3.3-70b-instruct com antecedência?

Deixe também um modelo reserva preparado. Este modelo da Meta tem vários nós upstream entre os quais o gateway pode alternar. Deixe um modelo reserva mais leve pronto, assim o fluxo principal não para. Coloque o nome do modelo na configuração, assim trocar de upstream não exige mudança de código.

Preciso mudar os parâmetros quando llama-3.3-70b-instruct retorna 401?

Os parâmetros precisam mudar; só tentar de novo não ajudará. É um problema de configuração do cliente; nada muda no servidor. A janela de contexto 128K define a entrada máxima por requisição; o que passar é rejeitado na hora. Falhe rápido em erros de parâmetro em vez de gastar retentativas com eles.

Cachear resultados reduz 401?

Aqui as variáveis reais são concorrência e timeouts, não o modelo. Reduza primeiro a concorrência — a maior parte dos problemas de throughput desaparece. Este modelo tem janela de contexto de 128K e é da Meta. Um contexto de 128K significa que entradas longas aumentam a latência do primeiro token. Comece com concorrência baixa, observe por alguns minutos e depois aumente. Adicione uma camada de cache para que requisições repetidas não cheguem todas ao modelo.

Quais códigos valem uma nova tentativa e quais nunca ajudam?

Normalmente não é preciso mudar o código, apenas o ritmo das chamadas. Com a cobrança p * 0 + c * 0, requisições falhas não entram no uso. Defina o limite de retentativas em 3–5 e adicione jitter.

Outros erros deste modelo

Outros modelos com o mesmo erro

Voltar à página do modelo

Dados atualizados: 2026-10-10 18:35

Suporte técnicoAtendimento online
Voltar ao topo