Intel Core Ultra thế hệ 3 hỗ trợ công nghệ Phison aiDAPTIV: Chạy mô hình 26B chỉ với 16GB RAM

Nội dung dịch chi tiết

Phison Electronics vừa thông báo hợp tác với Intel nhằm tăng cường khả năng thực thi các ứng dụng AI cục bộ trên máy tính AI (AI PC).

Công nghệ mở rộng bộ nhớ Phison Pascari aiDAPTIV hiện đã tương thích với bộ xử lý Core Ultra thế hệ 3 (Panther Lake/PTL) và hỗ trợ bộ công cụ OpenVINO. Sự kết hợp này giúp các thế hệ AI PC mới nhất có khả năng hỗ trợ các mô hình AI MoE lớn hơn, kéo dài thời gian phiên làm việc AI và tối ưu hóa các quy trình làm việc của AI đại lý.

Thông qua bộ nhớ đệm (Cache Memory), aiDAPTIV có thể mở rộng bộ nhớ làm việc của AI từ DRAM hệ thống sang NAND có hiệu suất và độ bền cao. Điều này thiết lập một kiến trúc bộ nhớ AI mới, giúp giảm nhu cầu về DRAM cho các tác vụ AI cục bộ và hỗ trợ các tính năng thời gian thực như tái sử dụng KV Cache.

Theo kết quả kiểm tra nội bộ từ Phison, trong cùng một môi trường thử nghiệm, hệ thống được trang bị aiDAPTIV chỉ cần 16GB DRAM để thực thi mô hình AI quy mô 26 tỷ tham số (26B). Trong khi đó, các hệ thống không có aiDAPTIV cần tới 32GB DRAM để hoàn thành khối lượng công việc tương tự.