SoL-Pi giới thiệu cơ chế nghiên cứu đệ quy giúp duy trì hiệu suất tương đương Pi nhưng giảm đáng kể lượng token tiêu thụ và tiết kiệm tới 13,5 USD mỗi giờ so với các công cụ hiện có.
Boris Cherny, lãnh đạo dự án Claude Code tại Anthropic, chia sẻ kinh nghiệm thực tế về việc tối ưu hóa chi phí token và cách lựa chọn mô hình hiệu quả trong quy trình phát triển phần mềm.
Picking one "best model" is starting to look like the wrong unit of optimization. @withmartian just…
DịchMartian giới thiệu AI Frontier, công cụ giúp so sánh các mô hình LLM dựa trên tác vụ thực tế. Hệ thống định tuyến thông minh của họ giúp giảm 54% sai số hoặc cắt giảm 85% chi phí API so với việc sử dụng đơn lẻ một mô hình tốt nhất.
something something RSI which they intend to use fully for GLM 6.0 GLM 5.3 is based on pre-train f…
DịchEmad Mostaque tiết lộ Zhipu AI đang tối ưu hóa GLM-6.0 và đạt bước tiến lớn với GLM-5.3 Flash, chạy hoàn toàn trên 100.000 chip nội địa với chi phí suy luận giảm 80%.
Nghiên cứu đánh giá hiệu quả của các công cụ nén prompt trên 10 ngôn ngữ, cho thấy sự chênh lệch đáng kể khi áp dụng các mô hình được huấn luyện chủ yếu bằng tiếng Anh so với đa ngôn ngữ.
75% drop in CPA. 9x spend scale. Those are the numbers Hannah Parvaz and her agency, Aperture, hit …
DịchBằng cách kết hợp mô hình AI với quy trình kiểm soát của con người và vòng lặp dữ liệu, Luma AI đã giúp agency Aperture tối ưu hóa hiệu quả quảng cáo, giảm 75% chi phí CPA và mở rộng quy mô chiến dịch gấp 9 lần.
Does your context compactor actually save anything? If you built or tuned one, this one is worth yo…
DịchNghiên cứu mới từ DAIR.AI chỉ ra rằng việc nén ngữ cảnh có thể làm tăng đáng kể số lần truy xuất và thời gian xử lý của AI, khiến chi phí ẩn tăng cao thay vì tiết kiệm như kỳ vọng.