Sparse Event-KV: Tối ưu hóa bộ nhớ KV Cache cho tác nhân AI dài hạn

Tóm tắt AI

Nghiên cứu giới thiệu cơ chế 'hiện thực hóa ngữ nghĩa', cho phép các tác nhân AI truy xuất thông tin chính xác từ bộ nhớ KV cache ngay cả khi dữ liệu gốc đã bị loại bỏ, giúp tăng đáng kể hiệu suất phục hồi thông tin.