Nghiên cứu
SeKV: Tối ưu bộ nhớ KV Cache với cấu trúc phân cấp cho LLM ngữ cảnh dài
(giờ Việt Nam)
Tóm tắt AI
SeKV giải quyết nút thắt bộ nhớ trong LLM bằng cách tổ chức ngữ cảnh thành các phân đoạn ngữ nghĩa thích ứng, lưu trữ phân cấp giữa GPU và CPU mà không làm mất dữ liệu, giúp cân bằng hiệu suất và độ chính xác.
Bản dịch AI
Xem PDF HTML (thử nghiệm)
DOI do arXiv cấp thông qua DataCite (đang chờ đăng ký)
Lịch sử gửi bài
Từ: Amirhossein Abaskohi [xem email] [v1] Thứ Ba, 30 tháng 6 năm 2026 05:18:02 UTC (623 KB)
Bài viết được AI dịch và tổng hợp tự động từ Hugging Face Daily Papers. Liên kết bài gốc ở phía trên. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.