DeepSeek ra mắt V4.1-Flash: Đột phá giảm bộ nhớ KV cache cho AI Agent

Mô hình đa phương thức mới của Deepseek được xây dựng chủ yếu để cắt giảm chi phí vận hành cho các ngữ cảnh dài. Lợi ích lớn nhất nằm ở việc sử dụng bộ nhớ, mặc dù Deepseek cũng hứa hẹn hiệu suất mô hình tốt hơn.

Theo báo cáo kỹ thuật, Deepseek có mục tiêu rõ ràng với V4.1-Flash: thu nhỏ cái gọi là KV cache. Bộ đệm này lưu trữ các phần của ngữ cảnh mà mô hình đã xử lý, nhờ đó nó không phải tính toán lại mọi thứ ở mỗi bước mới. Đối với các tác nhân (agents) hoạt động qua nhiều bước, bộ đệm này tăng trưởng rất nhanh và gây áp lực lên bộ nhớ GPU, SSD và băng thông dữ liệu. Điều đó làm tăng chi phí triển khai.

Về cốt lõi, mô hình ngôn ngữ này có 552 tỷ tham số và xử lý các ngữ cảnh lên tới một triệu token. Công ty cho biết bộ đệm trong bộ nhớ GPU tốc độ cao hiện chỉ cần khoảng một phần tư dung lượng so với phiên bản tiền nhiệm Deepseek-V4-Flash. Phần được chuyển tải vĩnh viễn sang SSD hoặc bộ nhớ máy chủ đã giảm xuống còn khoảng một phần tám. So với Deepseek-V1, kích thước KV cache toàn cục trên mỗi token đã giảm 437 lần.

Giảm tính toán ở phía đầu vào

Deepseek đạt được điều này thông qua một số kỹ thuật kết hợp với nhau. Một kỹ thuật trung tâm chia mô hình thành hai nửa. Nửa đầu xử lý dữ liệu đầu vào, và nửa thứ hai tận dụng các kết quả đó thay vì tính toán lại mọi thứ. Khi đọc đầu vào, mô hình chỉ kích hoạt 8 tỷ tham số trên mỗi token, nhưng kích hoạt 16 tỷ tham số trong quá trình xuất văn bản thực tế.

Deepseek cho biết điều này giúp giảm gần một nửa lượng tính toán cần thiết để xử lý đầu vào. Nó nhắm trực tiếp vào các tác nhân, vốn liên tục xử lý các đầu vào mới thông qua việc gọi công cụ thường xuyên. Deepseek cũng lưu trữ KV cache chính ở định dạng FP4 thay vì FP8. Theo báo cáo, điều đó giúp giảm gần một nửa dung lượng bộ nhớ của phần bộ đệm này.

Mô hình được huấn luyện từ đầu trên tập dữ liệu gồm 45 nghìn tỷ token bao gồm văn bản và hình ảnh. Trong quá trình hậu huấn luyện (post-training), Deepseek cố tình bỏ qua các phương pháp mới. Công ty cho biết những lợi ích chính không đến từ các thuật toán mới mà từ dữ liệu lớn hơn, được kiểm soát tốt hơn, các tác vụ và môi trường huấn luyện tốt hơn. Theo Deepseek, tại thời điểm này, việc mở rộng quy mô như vậy mang lại hiệu quả cao hơn so với các tinh chỉnh thuật toán.

Tuy nhiên, Deepseek cũng nhận thấy các tác nhân được huấn luyện đôi khi cố gắng "lách luật" hệ thống phần thưởng của chúng, và trong các trường hợp khác là vô tình làm sập môi trường thử nghiệm. Đôi khi chúng khai thác các lỗ hổng bảo mật mới được tiết lộ hoặc xóa các tệp hệ thống quan trọng.

Ngay cả với Opus 5 và GPT-5.6 Sol trên một bài kiểm tra lập trình

Mặc dù có tỷ lệ tham số hoạt động tương đối nhỏ, Deepseek báo cáo kết quả gần với các mô hình hàng đầu trên một số bài kiểm tra (benchmarks). Trên các bài kiểm tra tác nhân, đôi khi nó ngang bằng với các mô hình đóng hàng đầu. Trên bài kiểm tra phần mềm DeepSWE v1.1, nó vượt qua các mô hình như Opus 5 của Anthropic và GPT-5.6 Sol của OpenAI với tỷ lệ 74,2%, trong khi trên ProgramBench thì lại tụt hậu đáng kể.

Đối với các tác vụ tác nhân đòi hỏi khoa học chuyên sâu cần kiến thức chuyên gia, vẫn còn một khoảng cách rõ ràng so với các mô hình rất lớn. Báo cáo kỹ thuật cũng thừa nhận một khoảng cách có thể đo lường được so với các hệ thống đóng hàng đầu khi đọc các hình ảnh phức tạp.

Giống như nhiều mô hình suy luận khác, "độ sâu tư duy" (thinking depth) có thể được thiết lập. Người dùng kiểm soát mức độ làm việc kỹ lưỡng của mô hình thông qua một giá trị duy nhất, đánh đổi giữa chi phí tính toán và độ chính xác. Theo báo cáo, cài đặt cao nhất cải thiện đáng kể kết quả trên một số bài kiểm tra, nhưng tạo ra số lượng token đầu ra gấp khoảng 2,5 lần.

Deepseek cung cấp các tệp mô hình trên Hugging Face theo giấy phép MIT mở, nhằm làm điểm khởi đầu cho nhiều công việc hơn về các tác nhân AI giá rẻ. Nó cũng có sẵn thông qua API với cùng mức giá như V4-Flash.

Deepseek đã cải thiện đáng kể phiên bản tiền nhiệm V4-Flash vào cuối tháng 7 với bản cập nhật 0731. Mô hình này, với 284 tỷ tham số và 13 tỷ tham số hoạt động, chỉ đứng sau GPT-5.6 Luna của OpenAI một điểm trên Chỉ số Trí tuệ Phân tích Nhân tạo (Artificial Analysis Intelligence Index) và chi phí thấp hơn khoảng 60% cho mỗi tác vụ. Vào giữa tháng 8, Deepseek đã đưa phiên bản chủ lực V4-Pro ra khỏi giai đoạn thử nghiệm và đồng thời tăng giá API. Các lượt truy cập bộ đệm (cache hits), nghĩa là các đầu vào đã được lưu đệm, trở nên đắt đỏ hơn gấp sáu lần. Theo công ty bảo mật TeamT5 của Đài Loan, các nhóm hacker Trung Quốc đã tăng gấp đôi các cuộc tấn công kể từ khi họ bắt đầu sử dụng Deepseek cho các mục đích như mã khai thác và quét mạng.

Vào tháng 6, Deepseek đã huy động được khoảng 7,4 tỷ USD trong vòng gọi vốn bên ngoài đầu tiên với mức định giá trên 50 tỷ USD, và theo Reuters, hiện đã thuê ngân hàng đầu tư CITIC Securities của Trung Quốc để thực hiện IPO tại Trung Quốc.

Tin tức AI không cường điệu – Được tuyển chọn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo độc quyền về công nghệ tiên phong "AI Radar" sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và quyền truy cập vào phần bình luận của chúng tôi.

Đăng ký ngay