Plan de coopération écologique AirAi : Allouer un montant de 10 000 dollars pour soutenir ceux qui continuent de travailler sur leurs projets
...
OpenAI
J'ai coupé la facture de l'API LLM de 70% : AirAi Real Battle Notes pour le routage + cache
0. Context : Comment les factures ont-elles explosé en coûts ?Je travaille sur plusieurs projets parallèles (side projects). Au début, je devais soit payer le forfait officiel de 20 $ par mois, soit essayer de passer par une carte de crédit internationale, mais les demandes étaient rejetées. Lors du bilan de fin de mois, j’ai découvert deux choses déplaisantes :80 % des demandes étaient des tâches simples telles que la résumé, la classification et le formatage ; utiliser le modèle le plus coûteux était purement un gaspillage ;Le forfait est un coût fixe : il entraîne des pertes lorsque les appels sont rares, et il n’est pas suffisant lorsque les appels sont fréquents.
Noam Brown, scientifique d'OpenAI : la véritable limite supérieure de l'IA, personne ne peut se permettre de la mesurer
Alors que les grands modèles linguistiques commencent à être utilisés pour des tâches complexes telles que la raisonnement, la recherche automatisée et la sécurité des réseaux, les méthodes traditionnelles d'évaluation des modèles font face à de nouveaux défis.Depuis longtemps, la publication de modèles est accompagnée d'une table de résultats composée de divers tests de benchmark, incluant des tests en mathématiques, en programmation, en questions scientifiques, en sécurité informatique et en raisonnement cognitif, et ces résultats sont comparés horizontalement avec ceux de la génération précédente de modèles.
Le marché de l'IA vocale, en plein essor, a vu l'apparition d'une start-up nommée Hojo.
L'IA vocale représente une autre voie de développement parallèle aux grands modèles généraux. Alors que tout le monde se concentre sur ces derniers, le domaine de l'IA vocale, jusqu'à présent relativement calme, commence également à voir apparaître de nouveaux modèles intéressants. Le clavier perd progressivement son « statut de domination ». Au cours des deux dernières années, OpenAI a lancé la Realtime API, Google a développé Gemini Live, et de nombreuses entreprises chinoises spécialisées dans les grands modèles ont également commencé à se concentrer sur l'IA vocale. De plus en plus de personnes croient que, lorsque les agents intelligents seront réellement intégrés aux flux de travail, la voix deviendra un moyen d'accès au contexte plus naturel que le clavier. Pour que les agents intelligents puissent être efficacement intégrés aux flux de travail, ils doivent d'abord apprendre à comprendre les voix humaines. La première compétence essentielle à cet égard est l'ASR (reconnaissance automatique de la voix). Pour évaluer le niveau d'ASR, le tableau de classement Open ASR de Hugging Face est le plus souvent utilisé dans l'industrie. L'indicateur clé est le taux d'erreurs de mot (WER) : plus ce chiffre est bas, plus la reconnaissance est précise.
Aucun autre contenu