AirAi Eco-Cooperative: Saca la línea de $10,000 para patrocinar a las personas que todavía están haciendo algo
...
OpenAI
Reduje la facturación de la API LLM en un 70 %: Notas prácticas sobre AirAi para enrutamiento y caché
0. Contexto: ¿Cómo se produjo el desastre financiero con las facturas?Estoy trabajando en varios proyectos secundarios y, en las etapas iniciales, o tenía que pagar la suscripción oficial de al mes, o enfrentaba rechazos de mis tarjetas de crédito internacionales. Al final del mes, al hacer el balance, descubrí dos cosas muy desagradables:El 80% de las solicitudes eran tareas sencillas como resumen, clasificación y formato; usar el modelo más caro para estas tareas era simplemente un desperdicio;La suscripción es un costo fijo: cuando se realizan pocas llamadas, resulta en pérdidas, y cuando se realizan muchas, no es suficiente.
Noam Brown, científico de OpenAI: el verdadero límite de la IA, que nadie puede permitirse medir
A medida que los grandes modelos de lenguaje comienzan a abordar tareas complejas como la inferencia, la investigación automatizada y la seguridad cibernética, los métodos tradicionales de evaluación de modelos se enfrentan a nuevos desafíos.Durante mucho tiempo, el lanzamiento de modelos ha ido acompañado de tablas de resultados que incluyen una variedad de pruebas de referencia relacionadas con matemáticas, programación, preguntas y respuestas científicas, seguridad cibernética, inferencia de conocimiento, etc., y se comparan con los modelos de la generación anterior.
El creciente mercado de la IA de voz ha visto la aparición de una nueva startup llamada Hojo.
La IA de voz es otra línea de desarrollo aparte de los grandes modelos generales. Mientras todos prestan atención a los grandes modelos generales, en el campo relativamente tranquilo de la IA de voz también han comenzado a aparecer algunos modelos nuevos que merecen ser destacados. El teclado está perdiendo su “dominio”. En los últimos dos años, OpenAI lanzó la API en tiempo real (Realtime API), Google desarrolló Gemini Live, y casi todas las empresas chinas que trabajan con modelos grandes también han comenzado a invertir en la IA de voz. Cada vez más personas creen que, una vez que los agentes (agents) se integren realmente en los flujos de trabajo, el sonido se convertirá en una entrada al contexto más natural que el teclado. Si un agente quiere integrarse realmente en los flujos de trabajo, primero debe aprender a comprender estos sonidos. Y la primera capacidad necesaria para ello es el ASR (Reconocimiento Automático de Voz). Para medir el nivel de ASR, la industria suele utilizar la tabla de líderes Open ASR de Hugging Face, cuyo indicador clave es la tasa de errores de palabras (WER); cuanto más baja sea la tasa, más precisa es la reconocición.
No hay más contenido