Mô hình AI chạy trực tiếp trên thiết bị của ModelBest sắp có mặt trên điện thoại Samsung

ModelBest, một nhà phát triển các mô hình trí tuệ nhân tạo chạy trên thiết bị (on-device AI) của Trung Quốc, đã đạt được thỏa thuận hợp tác với Samsung. Các mô hình MiniCPM của công ty sẽ được cài đặt trên một số dòng điện thoại thông minh cao cấp của Samsung.

Vào ngày công bố quan hệ đối tác, các cơ quan quản lý không gian mạng của Trung Quốc cho biết bảy dịch vụ AI tạo sinh được thiết kế cho điện thoại thông minh đã hoàn tất đăng ký theo quy định. Danh sách này bao gồm Apple Intelligence, Xiaoyi của Huawei, AndesGPT của Oppo, BlueLM của Vivo, Xiaomi HyperAI, Galaxy AI của Samsung và Doubao của ByteDance dành cho điện thoại thông minh Nubia.

Việc đăng ký này cho thấy AI trên thiết bị đang vượt ra khỏi phạm vi trình diễn để tiến tới ứng dụng thương mại rộng rãi hơn.

Alibaba cũng xác nhận rằng Qwen sẽ được tích hợp vào Apple Intelligence trên các thiết bị bán tại thị trường Trung Quốc đại lục. Việc tích hợp này sẽ bao phủ iOS, iPadOS, macOS và visionOS, cho phép người dùng truy cập các chức năng hiểu văn bản, hình ảnh và tạo nội dung của Qwen mà không cần rời khỏi các ứng dụng của Apple.

Cổ phiếu của Alibaba đã tăng sau thông báo này.

Các nhà sản xuất điện thoại thông minh Trung Quốc cho đến nay vẫn chủ yếu dựa vào các mô hình do chính họ tự phát triển. Huawei có Xiaoyi, Oppo có AndesGPT, Vivo có BlueLM và Xiaomi có HyperAI.

Việc Qwen tích hợp với Apple Intelligence và quan hệ đối tác của ModelBest với Samsung cho thấy các nhà sản xuất điện thoại thông minh đang ngày càng sẵn sàng hợp tác với các nhà phát triển mô hình bên ngoài thay vì tự xây dựng mọi chức năng AI. Một sự phân công lao động đang bắt đầu hình thành.

ModelBest được thành lập tại Bắc Kinh vào tháng 8 năm 2022 và được ươm tạo bởi Phòng thí nghiệm Xử lý Ngôn ngữ Tự nhiên của Đại học Thanh Hoa.

Đồng sáng lập kiêm CEO Dahai Li trước đây từng là đối tác và CTO tại Zhihu. Đồng sáng lập kiêm nhà khoa học trưởng Zhiyuan Liu là giáo sư tại Khoa Khoa học và Công nghệ Máy tính của Đại học Thanh Hoa. Đồng sáng lập kiêm CTO Guoyang Zeng mới 22 tuổi khi, với tư cách là trưởng nhóm kỹ thuật, ông đã giúp huấn luyện CPM-1, mô hình được mô tả là mô hình ngôn ngữ lớn đầu tiên của Trung Quốc.

Theo PEdaily, ModelBest đã huy động được hơn 5 tỷ RMB (737,7 triệu USD) trong nửa đầu năm 2026. Ấn phẩm này cho biết định giá của công ty đã vượt quá 20 tỷ RMB (3 tỷ USD), đưa công ty trở thành nhà phát triển tập trung vào AI trên thiết bị có giá trị cao nhất tại Trung Quốc.

ModelBest cũng là một trong những công ty Trung Quốc đầu tiên tập trung vào lĩnh vực này.

Trong nửa cuối năm 2023, khi phần lớn ngành công nghiệp đang bận rộn với việc tăng quy mô của các mô hình dựa trên đám mây, ModelBest đã chuyển hướng sang các mô hình có thể chạy trực tiếp trên thiết bị của người tiêu dùng.

Vào thời điểm đó, lựa chọn này có vẻ không hợp thời. Các nhà phát triển mô hình lớn đang cạnh tranh về số lượng tham số và sức mạnh tính toán, trong khi các mô hình trên thiết bị thường bị coi là lĩnh vực thứ yếu, chủ yếu liên quan đến việc nén dữ liệu.

ModelBest xây dựng phương pháp tiếp cận của mình dựa trên một phương pháp mà họ gọi là "mật độ tri thức" (knowledge density).

Năm 2024, ModelBest và một nhóm từ Đại học Thanh Hoa đã đề xuất cái gọi là "định luật mật độ" (densing law). Định luật này cho rằng mật độ năng lực tối đa của các mô hình lớn mã nguồn mở tăng gấp đôi sau mỗi ba tháng rưỡi. Nếu mối quan hệ này đúng, số lượng tham số cần thiết để đạt được cùng mức hiệu suất sẽ giảm theo cấp số nhân.

Các bản phát hành mô hình sau đó đã cung cấp một số bằng chứng ủng hộ đánh giá đó.

Vào tháng 5, ModelBest, Đại học Thanh Hoa và OpenBMB đã phát hành MiniCPM5-1B dưới dạng mô hình văn bản mã nguồn mở chạy trên thiết bị. Mặc dù chỉ có một tỷ tham số, mô hình này đã đạt 17,9 điểm trên Chỉ số Trí tuệ Phân tích Nhân tạo (Artificial Analysis Intelligence Index), vượt qua một số mô hình mã nguồn mở lớn hơn.

Theo ModelBest, MiniCPM-V 4.6 có 1,3 tỷ tham số và có thể chạy trên điện thoại thông minh với bộ nhớ 6 gigabyte. Nó hỗ trợ iOS, Android và HarmonyOS.

Công ty cho biết các mô hình mã nguồn mở của MiniCPM đã được tải xuống hơn 38 triệu lần trên GitHub, Hugging Face và các nền tảng khác.

Trong một cuộc phỏng vấn với 36Kr, Zeng đã mô tả những hạn chế của việc phát triển trên thiết bị.

"Việc triển khai trên thiết bị đi kèm với những hạn chế cứng. Nếu một mô hình quá lớn để chạy, thì đơn giản là nó không thể chạy được, và các khoản trợ cấp sẽ không giải quyết được vấn đề. Nếu mức tiêu thụ điện năng quá cao, thiết bị sẽ bị quá nhiệt," ông nói.

Theo quan điểm của Zeng, việc làm cho một mô hình nhỏ hơn không có nghĩa là công việc trở nên dễ dàng hơn.

"Làm cho một mô hình trở nên hiệu quả là cực kỳ khó khăn. Lớn hơn không nhất thiết có nghĩa là đơn giản hơn," ông nói.

Việc triển khai một mô hình trên thiết bị không chỉ đơn thuần là giảm kích thước của nó. Các nhà phát triển phải phối hợp giữa thuật toán, tối ưu hóa chip, mức sử dụng năng lượng, nhu cầu bộ nhớ và việc cài đặt trên sản phẩm cuối cùng.

ModelBest đã điều chỉnh công nghệ của mình cho các nền tảng chip do Qualcomm, MediaTek, Intel, Rockchip, Nvidia và AMD sản xuất.

Đối với các nhà sản xuất chip Trung Quốc, công ty đã giúp phát triển các hệ thống phần mềm cho các nền tảng bao gồm Huawei Ascend và Cambricon. Công ty cũng đã phát hành BitCPM-CANN, được mô tả là mô hình lớn định lượng bậc ba (ternary-quantized) đầu tiên của Trung Quốc. ModelBest cho biết mô hình này có thể giảm mức sử dụng bộ nhớ GPU trong quá trình suy luận khoảng sáu lần.

Công ty cũng đã phát triển các mô hình cho một số loại hình sử dụng trên thiết bị.

Bản phát hành mới nhất của họ, MiniCPM-o 4.5, là một mô hình đa phương thức (omnimodal) với chín tỷ tham số. Nó có thể xử lý giọng nói, video và văn bản cùng lúc và hỗ trợ tương tác song công toàn phần (full-duplex), cho phép người dùng và hệ thống nói chuyện mà không cần chờ đợi nhau kết thúc câu.

Việc chạy một mô hình như vậy trên điện thoại thông minh đòi hỏi phải kiểm soát cẩn thận mức tiêu thụ điện năng, nhiệt độ, bộ nhớ và thời gian phản hồi. Một sự cải thiện ở lĩnh vực này có thể gây ra chi phí ở lĩnh vực khác.

"Các mô hình trên thiết bị không thể chỉ được đánh giá bằng hiệu suất chuẩn (benchmark). Thời gian phản hồi và chi phí phần cứng cũng rất quan trọng, điều này khiến một mô hình khó có thể chiếm ưu thế dựa trên bất kỳ khía cạnh đơn lẻ nào," Zeng nói trong cuộc phỏng vấn.

ModelBest cho biết họ đã thử nghiệm khả năng triển khai công nghệ của mình ở quy mô lớn trên ô tô.

Theo công ty, tác nhân AI trên thiết bị của họ, SuperMate, dự kiến sẽ xuất hiện trên hơn 300.000 xe thương mại vào cuối năm 2026. Các phương tiện này sẽ bao gồm các mẫu xe từ Geely, SAIC Volkswagen, GAC Group, Mazda và các nhà sản xuất khác.

Thông qua các dự án này, ModelBest cho biết họ đã phát triển một quy trình bao gồm việc thích ứng mô hình, khả năng tương thích phần cứng, chuỗi cung ứng và bàn giao sản phẩm hoàn thiện.

Samsung là một trong những nhà sản xuất điện thoại thông minh Android lớn nhất thế giới tính theo sản lượng xuất xưởng. Các chức năng AI trên thiết bị của hãng cho đến nay chủ yếu dựa vào Galaxy AI và quan hệ đối tác với Google.

Truyền thông Hàn Quốc đưa tin rằng Samsung đang làm việc với Google để tích hợp Gemini trên các thiết bị của mình. Các báo cáo cho biết sự hợp tác này sẽ bao gồm các sản phẩm trong dòng Galaxy Unpacked 2026, dự kiến ra mắt tại London vào ngày 22 tháng 7.

Vai trò chính xác của ModelBest trong hệ thống AI của Samsung vẫn chưa được tiết lộ.

KrASIA đăng tải nội dung được dịch và chuyển thể từ bài viết gốc của 36Kr. Bài viết này do Deng Yongyi thực hiện cho 36Kr.

Lưu ý: Các số liệu RMB được quy đổi sang USD theo tỷ giá 6,78 RMB = 1 USD dựa trên ước tính tính đến ngày 21 tháng 7 năm 2026, trừ khi có ghi chú khác. Việc quy đổi sang USD được trình bày để thuận tiện cho việc tham khảo và có thể không khớp hoàn toàn với tỷ giá hối đoái hiện hành.