Chương trình hợp tác sinh thái của AirAi: đưa ra một khoản tiền 10.000 đô la để tài trợ cho những người vẫn đang làm điều gì đó
...
OpenAI
Tôi đã cắt hóa đơn API LLM xuống 70%: Ghi chú chiến đấu thực tế của AirAi với Routing + Cache
0. Bối cảnh: Tại sao chi phí sử dụng dịch vụ lại tăng vọt như vậy?Tôi tham gia vào một số dự án bên lề (side projects), và ở giai đoạn đầu, tôi hoặc phải chịu chi phí đăng ký chính thức trị giá /mo, hoặc cố gắng sử dụng thẻ tín dụng quốc tế nhưng bị từ chối. Khi tính toán cuối tháng, tôi phát hiện ra hai vấn đề đáng lo ngại:80% số yêu cầu (requests) là những công việc nhẹ như tóm tắt (summary), phân loại (classification), định dạng (formatting); việc sử dụng mô hình đắt nhất để xử lý chúng thực sự là lãng phí;Chi phí đăng ký là một khoản cố định – khi số lượng yêu cầu ít thì lỗ vốn, còn khi số lượng yêu cầu nhiều thì lại không đủ nguồn lực để xử lý.
Nhà khoa học OpenAI Noam Brown: giới hạn thực sự của AI có thể không ai có thể đo lường được
Khi các mô hình ngôn ngữ lớn dần tham gia vào các nhiệm vụ phức tạp như suy luận, nghiên cứu tự động hóa và bảo mật mạng, các phương pháp đánh giá mô hình truyền thống đang đối mặt với những thách thức mới.Trong quá khứ, việc phát hành một mô hình thường đi kèm với bảng kết quả bao gồm nhiều bài kiểm thử chuẩn như toán học, lập trình, trả lời câu hỏi khoa học, bảo mật mạng, suy luận kiến thức, v.v., và so sánh mức độ hiệu quả của mô hình đó với thế hệ trước.
Đường đua Voice AI đang nóng lên, xuất hiện một nhóm khởi nghiệp Hojo
Voice AI, là một câu chuyện khác ngoài mô hình lớn chung. Trong khi tất cả mọi người đều nhìn chằm chằm vào các mô hình lớn của GM, Voice AI cũng bắt đầu xuất hiện một số mô hình mới đáng chú ý trên đường đua tương đối yên tĩnh này. Bàn phím đang mất đi "trị thế thống trị" của nó. Hai năm qua, OpenAI đã ra mắt API thời gian thực, Google đã thực hiện Gemini Live, hầu như tất cả các công ty mô hình lớn trong nước cũng bắt đầu bố trí AI giọng nói. Ngày càng có nhiều người tin rằng một khi Agent thực sự đi vào dòng công việc, giọng nói sẽ trở thành một lối vào ngữ cảnh tự nhiên hơn so với bàn phím. Nếu một Agent muốn thực sự tham gia vào dòng công việc, trước tiên nó phải học cách hiểu những âm thanh này. Khả năng đầu tiên đằng sau nó là ASR (Automatic Speech Recognition). Để đo lường mức độ ASR, ngành công nghiệp thường được trích dẫn nhất là Open ASR Leaderboard của Hugging Face, chỉ số cốt lõi là tỷ lệ lỗi từ (WER), con số càng thấp, nhận dạng càng chính xác.
Không còn nội dung