AirAi Eco-Partnership: Spenden Sie 10.000 USD für Menschen, die noch etwas tun
...
OpenAI
Ich habe meine LLM-API - Rechnung um 70% gekürzt: Routing + Caching AirAi Live Battle Notes
0. Hintergrund: Wie ist es dazu gekommen, dass die Rechnungen so hoch sind?Ich arbeite an ein paar Nebenprojekten, und in den Anfängen musste ich entweder das offizielle Abo für 20 $/Monat kaufen oder es mit internationalen Kreditkarten versuchen – was jedoch oft fehlschlug. Am Monatsende stellte ich zwei besorgniserregende Dinge fest:80 % der Anfragen bestanden aus einfachen Aufgaben wie Zusammenfassung, Klassifizierung und Formatierung; es war reine Verschwendung, die teuersten Modelle dafür zu verwenden;Das Abo ist eine feste Kostenstelle – wenn es wenig genutzt wird, verliert man Geld, und wenn es viel genutzt wird, reicht das Geld nicht aus.
OpenAI-Wissenschaftler Noam Brown: Die wahre Obergrenze der KI kann sich niemand leisten
Mit dem zunehmenden Einsatz großer Sprachmodelle in anspruchsvollen Aufgaben wie komplexer Inferenz, automatisierter Forschung und Netzwerksicherheit stehen herkömmliche Methoden zur Bewertung von Modellen vor neuen Herausforderungen.Seit langem werden Modelle veröffentlicht, zusammen mit Ergebnistabellen, die aus verschiedenen Benchmarks wie Mathematik, Programmierung, wissenschaftlichen Fragen und Antworten sowie Netzwerksicherheit bestehen, und diese werden mit den Ergebnissen der vorherigen Generationen verglichen.
Auf dem sich erwärmenden Markt für Sprachkünstliche Intelligenz ist ein Start-up namens Hojo aufgetaucht.
Voice AI ist eine weitere Story-Linie außerhalb des universellen großen Modells. Während alle auf das große GM-Modell schauten, begannen einige bemerkenswerte neue Modelle auf der relativ ruhigen Strecke von Voice AI zu erscheinen. Die Tastatur verliert ihre „Hominanz". In den vergangenen zwei Jahren hat OpenAI die Realtime-API eingeführt, Google hat Gemini Live eingeführt und fast alle großen Modellunternehmen in China haben begonnen, Voice AI zu entwickeln. Immer mehr Menschen glauben, dass die Sprache, wenn der Agent wirklich in den Workflow kommt, ein natürlicher kontextueller Eingang wird als die Tastatur. Wenn der Agent wirklich in den Workflow eintreten will, muss er zuerst lernen, diese Geräusche zu verstehen. Die erste Funktion, die dahinter steht, ist ASR (Automatic Speech Recognition). Um das ASR-Level zu messen, wird in der Branche am häufigsten das Open ASR Leaderboard von Hugging Face zitiert, wobei die Kernmetrik die Wörterfehlerrate (WER) ist, je niedriger die Zahl ist, desto genauer die Erkennung ist.
Keine weiteren Einträge