AirAi Eco-Cooperative: 10.000 dollari per sponsorizzare chi sta ancora facendo qualcosa
...
OpenAI
Ho tagliato la fattura dell 'API LLM del 70%: note di battaglia reale di AirAi con routing + cache
0. Contesto: Come è scoppiato il problema con le fattureLavoro a diversi progetti paralleli (side projects) e, all’inizio, o dovevo sopportare la spesa di un abbonamento ufficiale che costava 20 dollari al mese, oppure affrontare il rifiuto delle mie carte di credito internazionali. Alla fine del mese, ho fatto i conti e ho scoperto due cose molto frustranti:L’80% delle richieste riguardava operazioni semplici come la sintesi dei dati, la classificazione e la formattazione; utilizzare i modelli più costosi per queste operazioni era semplicemente uno spreco;L’abbonamento rappresentava una spesa fissa: quando le richieste erano poche, ne risultavo in perdita, mentre quando erano molte, non era sufficiente per coprire i costi.
Noam Brown, scienziato di OpenAI: il vero limite dell 'IA, nessuno può permettersi di misurare
Con l'avanzamento dei grandi modelli linguistici nell'esecuzione di compiti complessi come il ragionamento, la ricerca automatizzata e la sicurezza informatica, i metodi tradizionali di valutazione dei modelli si trovano ad affrontare nuove sfide.Da tempo, il rilascio di un modello è accompagnato da una tabella di risultati che include vari test di benchmark, che spaziano dalla matematica, alla programmazione, alle domande scientifiche, alla sicurezza informatica e al ragionamento conoscitivo, e questi risultati vengono confrontati con quelli del modello precedente.
Il settore dell’AI vocale, in rapida crescita, ha visto l’emergere di una nuova startup chiamata Hojo.
La voce AI rappresenta un’altra linea di sviluppo, diversa da quella dei grandi modelli generali. Mentre tutti sono concentrati sui grandi modelli generali, anche nel campo relativamente più tranquillo della voce AI stanno emergendo modelli nuovi che meritano attenzione. La tastiera sta perdendo il suo “dominio”. Negli ultimi due anni, OpenAI ha lanciato il Realtime API, Google ha creato Gemini Live, e quasi tutte le aziende cinesi che lavorano su grandi modelli hanno iniziato a investire nel settore della voce AI. Sempre più persone credono che, una volta che gli agenti digitali entreranno davvero nei flussi di lavoro, la voce diventerà un’interfaccia più naturale rispetto alla tastiera. Se un agente digitale vuole davvero integrarsi nei flussi di lavoro, deve prima imparare a comprendere queste voci. La prima capacità necessaria per questo è l’ASR (riconoscimento vocale automatico). Per misurare il livello di un sistema ASR, nell’industria si utilizza comunemente la classifica Open ASR di Hugging Face, la cui metrica principale è il tasso di errore di parola (WER): più basso è il valore, più precisa è la riconoscimento.
Non ci sono altri contenuti