الخطأ 502: ماذا تفعل عندما يفشل llama-3.3-70b-instruct

يعني الرمز 502 أن البوابة تلقت استجابة غير صالحة من خدمة النموذج المصدر: وصل الطلب إلى البوابة، لكن الانتقال إلى المصدر فشل.

رمز 502 Bad Gateway يعني أن البوابة تلقت استجابة غير صالحة من خدمة النموذج المورّد. وصل الطلب إلى البوابة، وحدث الفشل في القفزة من البوابة إلى المورّد، وعادةً ما يكون السبب إعادة تشغيل عقدة المورّد أو انقطاع الاتصال.

llama-3.3-70b-instruct مقدمة من Meta. كل ما في هذه الصفحة — الأسباب والحلول والبيانات المقاسة — مستقى من السلوك التشغيلي الفعلي لهذا النموذج على مستوى البوابة.

في هذه البوابة، السبب الأكثر شيوعًا هو: خدمة النموذج المصدر غير متاحة أو أعادت استجابة مشوّهة. والإجراء الأول الموصى به هو: أعد المحاولة مرة واحدة، فأخطاء 502 غالباً مؤقتة.

الأسباب الشائعة

  • خدمة النموذج المصدر غير متاحة أو أعادت استجابة مشوّهة
  • عقدة مصدر قيد إعادة التشغيل
  • انقطع الاتصال بين البوابة والمصدر
  • تم إيقاف النموذج مؤقتاً

كيفية الإصلاح

  • أعد المحاولة مرة واحدة، فأخطاء 502 غالباً مؤقتة
  • انتقل إلى نموذج مكافئ من مزوّد آخر
  • إذا تكرر 502 في نموذج واحد فقط فمصدره مضطرب
  • أعد المحاولة لاحقاً أو راسلنا

مثال على إعادة المحاولة مع تأخير أُسّي

الكود أدناه يعيد المحاولة عندما يُرجع llama-3.3-70b-instruct الخطأ 502، حتى 5 محاولات، مع وقت انتظار متزايد وتشويش عشوائي حتى لا تُعيد الطلبات المتوازية المحاولة في اللحظة نفسها. اقرأ base URL ومفتاح API من متغيرات البيئة ولا تثبّتها داخل الكود.

import os, time, random
import requests

BASE  = os.getenv("OPENAI_BASE_URL")   # e.g. https://<your-gateway>/v1
KEY   = os.getenv("OPENAI_API_KEY")
MODEL = 'llama-3.3-70b-instruct'


def chat(messages, retries=5):
    """Retry with exponential backoff + jitter."""
    for i in range(retries):
        try:
            r = requests.post(
                BASE + "/chat/completions",
                headers={"Authorization": "Bearer " + KEY},
                json={"model": MODEL, "messages": messages, "stream": True},
                timeout=60,
            )
            if r.status_code == 429 or r.status_code >= 500:
                time.sleep(min(2 ** i + random.uniform(0, 1), 30))
                continue
            r.raise_for_status()
            return r.json()
        except requests.exceptions.Timeout:
            time.sleep(min(2 ** i + random.uniform(0, 1), 30))
    raise RuntimeError("gave up after " + str(retries) + " retries")


print(chat([{"role": "user", "content": "hello"}]))

بيانات أساسية لهذا النموذج

نقطة نهاية APIhttps://api.airai.cc/v1
متوافق مع OpenAIOpenAI-compatible
المزوّدMeta
السياق128K
القدراتTools, Files, Open Weights
صيغ APIopenai, openai-response, openai-response-compact, anthropic, gemini, openai-alpha-search
صيغة الفوترةp * 0 + c * 0

الأسئلة الشائعة

تأخير أُسّي أم فاصل زمني ثابت؟

عادةً لا حاجة لتعديل كود العمل، يكفي ضبط وتيرة الاستدعاء. مع احتساب التكلفة بـ p * 0 + c * 0، لا تُحسب الطلبات الفاشلة ضمن الاستخدام. اجعل حد المحاولات من 3 إلى 5 وأضف تشويشاً عشوائياً.

ما المدة المناسبة لانتهاء المهلة؟

المتغيّران الحقيقيان هنا هما التزامن والمهلة، وليس النموذج نفسه. نافذة السياق لهذا النموذج 128K وهو من Meta. سياق 128K يعني أن المدخلات الطويلة تزيد زمن أول رمز بشكل ملحوظ. أضف طبقة تخزين مؤقت حتى لا تصل الطلبات المتكررة كلها إلى النموذج. سوّي قمم الحمل بالدفعات أو الطوابير — أكثر استقراراً من رفع التزامن أثناء التشغيل.

هل أحتاج لترقية الخطة لحل 502 على llama-3.3-70b-instruct؟

رفع سقف الخطة أو تقليل معدل الاستدعاء، كلاهما يخفف المشكلة. مع الفوترة p * 0 + c * 0، تأتي تكلفة المخرجات الطويلة أساساً من رموز الإخراج. مع احتساب التكلفة بـ p * 0 + c * 0، لا تُحسب الطلبات الفاشلة ضمن الاستخدام. تحقق من الرصيد وحدود المعدل في لوحة التحكم أولاً، ثم افحص الكود. عند تقدير التكلفة من p * 0 + c * 0، أدخل ميزانية إعادة المحاولة أيضاً.

هل أحتاج لتغيير معاملات الطلب عندما يُرجع llama-3.3-70b-instruct الخطأ 502؟

يجب تعديل معاملات الطلب، فإعادة المحاولة وحدها لن تفيد. هذه مشكلة إعدادات من جانب العميل، ولا يحتاج الخادم لأي تغيير. وسوم القدرات هي Tools, Files, Open Weights، وتتبعها حدود المعاملات. نافذة السياق 128K تحدد أقصى إدخال لكل طلب، وما يتجاوزها يُرفض مباشرة. قصّر المدخلات الطويلة أو لخّصها — ذلك يقلل 502 بشكل ملحوظ.

أخطاء أخرى في هذا النموذج

نماذج أخرى تواجه الخطأ نفسه

العودة إلى صفحة النموذج

تحديث البيانات: 2026-10-10 18:35

الدعم الفنيالدعم المباشر
العودة إلى الأعلى