Apple đánh giá công nghệ nén 1-bit của PrismML: Đưa mô hình 27B lên iPhone 15 với chỉ 4GB RAM

Theo tin từ IT ngày 15 tháng 7, trong một cuộc phỏng vấn với CNBC vào ngày hôm qua (14 tháng 7), Babak Hassibi, Giám đốc điều hành của PrismML, cho biết công ty của ông thực sự đã tiếp cận với Apple và tiết lộ rằng Apple đang đánh giá công nghệ lượng tử hóa AI của họ.

Trong cuộc phỏng vấn, Hassibi chia sẻ: "Họ [ám chỉ Apple] hiện đang đánh giá nghiêm túc công nghệ của chúng tôi". Tuy nhiên, ông không tiết lộ nội dung cụ thể của các cuộc đàm phán, chỉ cho biết các cuộc thảo luận vẫn đang ở giai đoạn đầu nhưng "đang tiến triển thuận lợi".

Truyền thông cho rằng phạm vi đàm phán bao gồm từ việc cấp phép sử dụng công nghệ của PrismML cho đến khả năng Apple trực tiếp mua lại PrismML.

PrismML là một công ty khởi nghiệp AI tách ra từ Caltech (Viện Công nghệ California), với đột phá cốt lõi là công nghệ nén mô hình 1-bit nguyên bản, giúp nén kích thước mô hình xuống còn khoảng 1/14 so với phiên bản độ chính xác đầy đủ và giảm mức sử dụng bộ nhớ hơn 90%.

Công nghệ nén mô hình 1-bit nguyên bản sử dụng trọng số chỉ với các giá trị {-1, +1}, kết hợp với hệ số tỷ lệ theo nhóm. Đây không phải là phương pháp lượng tử hóa truyền thống và được tuyên bố là không có "kênh thoát độ chính xác cao". Công nghệ này khẳng định có thể duy trì độ chính xác gần bằng mô hình FP16, đồng thời tăng tốc độ suy luận lên tới 8 lần và giảm mức tiêu thụ năng lượng từ 75% đến 80%.

IT hôm nay đưa tin, PrismML đã công bố ra mắt mô hình Bonsai 27B, được tinh chỉnh dựa trên mô hình Qwen 3.6 27B. Mô hình này có thể chạy nguyên bản trên iPhone với 12GB RAM trong khi vẫn giữ lại 90% khả năng thông minh.

Công ty cho biết họ đã giảm kích thước mô hình từ khoảng 54 GB xuống còn chưa đầy 4 GB, cho phép chạy mô hình 27B tham số hoàn chỉnh trên iPhone 15 và các dòng máy kế nhiệm.

Trong cuộc phỏng vấn, Hassibi thừa nhận rằng công nghệ lượng tử hóa này chắc chắn phải đánh đổi một phần hiệu suất. So với phiên bản đầy đủ, các mô hình sau khi lượng tử hóa giữ lại 95% (đối với 3-bit) và 90% (đối với 1-bit) điểm số benchmark, đồng thời thể hiện khả năng yếu hơn rõ rệt trong việc xử lý suy luận thực tế, toán học và lập trình.

Đọc thêm:

"Đã chạy hoàn chỉnh Qwen 3.6 trên iPhone 17 Pro, tin đồn công nghệ nén AI của PrismML được Apple để mắt tới"

"Khoảnh khắc DeepSeek của AI trên điện thoại: Mô hình Bonsai 27B ra mắt, iPhone 17 Pro của Apple có thể vận hành"

Tuyên bố quảng cáo: Các liên kết chuyển hướng bên ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin và tiết kiệm thời gian lựa chọn, kết quả chỉ mang tính chất tham khảo. Tất cả các bài viết trên IT đều bao gồm tuyên bố này.