مشروع AirAi Ecological Partnership: تخصيص 10،000 دولار لرعاية الأشخاص الذين لا يزالون يفعلون الأشياء
...
أوبن آي (OpenAI)
لقد خفضت فاتورة LLM API بنسبة 70٪: ملاحظات AirAi الميدانية مع التوجيه + التخزين المؤقت
0. الخلفية: كيف انفجرت التكاليف؟أقوم بعدة مشاريع جانبية، وفي البداية إما أن أدفع مبلغ 20 دولارًا شهريًا مقابل الاشتراك الرسمي، أو أحاول استخدام بطاقات الائتمان الدولية لكنها تتم رفضها. عندما أحسب الحسابات في نهاية الشهر، اكتشفت شيئين مؤلمين:80% من الطلبات كانت تتعلق بمهام بسيطة مثل التلخيص والتصنيف والتنسيق، واستخدام أغلى النماذج كان مجرد هدر؛الاشتراك يمثل تكلفة ثابتة - عندما يكون عدد الطلبات قليلاً أتكبد خسائر، وعندما يكون كبيرًا لا تكفي النماذج المتاحة.
نعوم براون، عالم OpenAI: الحد الأقصى الحقيقي للذكاء الاصطناعي قد لا يقيسه أحد
مع دخول نماذج اللغات الكبيرة تدريجيًا في مهام معقدة مثل الاستدلال والبحث الآلي وأمن الشبكات، تواجه طرق تقييم النماذج التقليدية تحديات جديدة.لفترة طويلة، كان إطلاق النماذج يصاحبه عادةً جداول نتائج تتكون من اختبارات متنوعة مثل الرياضيات والبرمجة والأسئلة العلمية وأمن الشبكات والاستدلال المعرفي، ويتم مقارنة هذه النتائج مع الجيل السابق من النماذج.
ساحة تكنولوجيا الذكاء الاصطناعي الصوتي التي تشهد نموًا متسارعًا، شهدت ظهور فريق ناشئ يُدعى Hojo
Voice AI ، هو خط قصة آخر خارج النموذج الكبير لـ GM. بينما كان الجميع يحدقون في النموذج الكبير لشركة جنرال إلكترونية ، بدأت بعض النماذج الجديدة الجديرة بالملاحظة في مسار Voice AI الهادئ نسبيًا. المفاتيح تفقد "هيمنة" لها. في العامين الماضيين ، أطلقت OpenAI واجهة برمجة تطبيقات التطبيقات في الوقت الحقيقي ، وجوجل Gemini Live ، وبدأت شركات النموذج المحلية الكبرى تقريبًا في وضع الصوت الذكاء الاصطناعي.بدأ عدد متزايد من الناس يعتقدون أنه عندما يدخل الوكيل في سير العمل ، يصبح الصوت مدخلًا للسياق أكثر طبيعية من لوحة المفاتيح. إذا كان الوكيل يريد أن يدخل في سير العمل حقًا ، فإنه يجب أولاً أن يتعلم فهم هذه الأصوات.الطبقة الأولى من القدرة وراء هذا، هو ASR (التعرف التلقائي على الصوت). قياس مستوى ASR ، الأكثر استشهادا في الصناعة هو لوحة قيادة ASR المفتوحة من Hugging Face ، والمؤشر الأساسي هو معدل خطأ الكلمة (WER) ، وكلما انخفض الرقم ، زاد دقة التعرف.
لا يوجد المزيد