Startup chip AI 'Cuisi Technology' gọi vốn thành công hơn 100 triệu NDT

Khi AI chuyển dịch từ đám mây sang các thiết bị thực tế, việc suy luận trên thiết bị (on-device inference) đang gặp phải một vấn đề ngày càng rõ rệt: các yêu cầu về năng lực mô hình, mức tiêu thụ điện năng, diện tích đế chip (die area) và chi phí thay đổi rất lớn tùy theo từng kịch bản, và một con chip đa năng đơn lẻ khó có thể đáp ứng tất cả.

Gần đây, Trace Intelligence – công ty trong danh mục đầu tư của Yunqi Capital, chuyên về thiết kế chip cho AI trên thiết bị – đã hoàn tất vòng gọi vốn mới với số tiền hơn 100 triệu nhân dân tệ. Sau vòng gọi vốn này, công ty sẽ tiếp tục thúc đẩy việc định nghĩa, thiết kế và tape-out (chuyển thiết kế sang nhà máy sản xuất) con chip suy luận chuyên dụng 6nm đầu tiên của mình.

Góc nhìn đầu tư của Yunqi Capital:

Chúng tôi vẫn lạc quan về nhu cầu tính toán mới được tạo ra bởi sự thâm nhập ngày càng nhanh của AI vào các thiết bị biên và thế giới vật lý, cũng như những đổi mới trong thiết kế chip và mô hình cung ứng mà xu hướng này sẽ tạo ra.

Tiến sĩ Hongyang Pan đã dành nhiều năm làm việc chuyên sâu trong lĩnh vực EDA, từ nghiên cứu đến khởi nghiệp xây dựng công cụ và hiện tại là sản phẩm chip. Ông đã suy nghĩ rất kỹ về cách AI có thể thực sự định hình lại quy trình thiết kế chip. Đồng thời, đội ngũ của ông đang nhanh chóng xây dựng các năng lực kỹ thuật cần thiết cho việc tape-out và sản xuất hàng loạt thực tế. Chúng tôi mong đợi được thấy Trace mang các phương pháp AI-native (tự nhiên với AI) vào việc cung ứng chip thương mại và khám phá một mô hình thiết kế chip mới cho kỷ nguyên AI trên thiết bị.

Nội dung sau đây được trích dẫn từ DeepTech.

AI vật lý (Physical AI) và suy luận trên thiết bị là hai từ khóa mà Hongyang Pan nghĩ đến nhiều nhất khi thành lập Trace Intelligence. Năm 2025, khi còn là nghiên cứu sinh tiến sĩ, Pan đã thành lập một công ty EDA AI có tên là Fuxin Zhigan, với nỗ lực biến nghiên cứu của mình về tổng hợp logic nhận thức vật lý (physics-aware logic synthesis) thành một sản phẩm thương mại giúp rút ngắn chu kỳ lặp lại thiết kế chip. Ông bắt đầu nhận ra rằng AI có thể thay đổi không chỉ các giai đoạn trung và hậu kỳ của thiết kế chip, mà là toàn bộ cách thức định nghĩa và thiết kế chip.

Ông tin rằng các mô hình AI trong một lĩnh vực nhất định thường trải qua ba giai đoạn: giai đoạn đầu, kiến trúc mô hình chưa hội tụ và các kỹ sư huấn luyện vẫn đang khám phá cấu trúc tối ưu; giai đoạn hai, kiến trúc đã hội tụ phần lớn và việc lặp lại chủ yếu diễn ra ở cấp độ tham số; giai đoạn ba, năng lực mô hình đã trưởng thành, các mô hình lớn được chưng cất (distilled) thành các mô hình nhỏ và trọng tâm chuyển sang triển khai chi phí thấp.

Trong hai năm qua, ngày càng có nhiều startup phần cứng AI xuất hiện, với các kịch bản điển hình là thiết bị đeo, AIoT và bảo mật. Điều này cũng có nghĩa là một phần đáng kể các mô hình AI đã bước vào giai đoạn hai và ba. Các GPU và NPU linh hoạt, đa năng phù hợp hơn với các mô hình giai đoạn đầu; đối với hai giai đoạn sau, Pan tin rằng câu trả lời thực sự nằm ở các con chip AI tùy chỉnh lấy khách hàng làm trung tâm, đẩy các chỉ số PPA (Power, Performance, Area - Điện năng, Hiệu năng, Diện tích) đến mức cực hạn. Những con chip như vậy có thể tối đa hóa năng lực AI trên thiết bị, giúp nhiều khách hàng thực sự đưa các ứng dụng AI ra thị trường, từ đó thúc đẩy toàn bộ thị trường suy luận trên thiết bị tiến lên phía trước.

Đó chính là tầm nhìn của Trace Intelligence.

Ảnh: Nhà sáng lập kiêm CEO của Trace Intelligence, Hongyang Pan (Nguồn: nhân vật được phỏng vấn)

Xung quanh mục tiêu này, Trace Intelligence đã tập hợp một đội ngũ chip suy luận kết hợp giữa kinh nghiệm R&D chip AI quốc tế và năng lực tự động hóa thiết kế. Đồng sáng lập kiêm CTO từng là thành viên cốt cán và kỹ sư chính tại SambaNova, với kinh nghiệm thiết kế và sản xuất hàng loạt chip trải dài từ kiến trúc luồng dữ liệu (dataflow), GPU đến NPU biên, cùng với kỹ năng phát triển cả phần mềm và phần cứng. Đồng sáng lập Keren Zhu, giáo sư tại Đại học Fudan, trước đây từng thực tập tại Cerebras và NVIDIA Research, tích lũy kinh nghiệm nghiên cứu và kỹ thuật trong thiết kế chip có sự hỗ trợ của AI.

Xung quanh đội ngũ sáng lập cốt lõi, công ty đã tập hợp được nhân tài trong các lĩnh vực thiết kế SoC, kiểm thử, triển khai hậu kỳ, trình biên dịch và chuỗi cung ứng, hình thành một sự phân công chuyên nghiệp bao gồm hiểu biết về mô hình, kiến trúc chip, đồng thiết kế phần cứng-phần mềm và triển khai kỹ thuật — cùng nhau thúc đẩy sự phát triển và cung ứng các con chip suy luận chuyên dụng trên thiết bị.

Ảnh: Đồng sáng lập Trace Intelligence và giáo sư Đại học Fudan, Keren Zhu (Nguồn: nhân vật được phỏng vấn)

Về phương pháp thiết kế, Trace đã xây dựng một quy trình thiết kế chip AI-native bắt đầu từ yêu cầu của khách hàng, đồng tối ưu hóa ngăn xếp phần mềm và kiến trúc phần cứng, đồng thời sử dụng AI để thúc đẩy thiết kế, kiểm thử và triển khai vật lý. Cách tiếp cận này nhằm mục đích giảm chi phí phát triển chip tùy chỉnh và rút ngắn chu kỳ lặp lại, giúp việc tùy chỉnh chip trở nên khả thi đối với thị trường suy luận trên thiết bị vốn rộng lớn và phân mảnh.

Trace hiện đang chuyển đổi từ xác thực phương pháp sang cung ứng thương mại. Đội ngũ trước đó đã hoàn thành việc tape-out học thuật một lõi RISC-V out-of-order 28nm, chạy qua toàn bộ quy trình thiết kế từ đặc tả đến bố trí (layout). Về mặt thương mại, công ty đang tiến hành đánh giá mô hình và định nghĩa sản phẩm chung với nhiều khách hàng phần cứng AI và điện tử tiêu dùng, với trọng tâm đầu tiên là nhận dạng giọng nói trên thiết bị.

Về tài chính: sau vòng ươm tạo vài tháng trước, Trace Intelligence gần đây đã hoàn tất vòng gọi vốn mới trị giá hơn 100 triệu nhân dân tệ. Vòng này được dẫn dắt bởi một quỹ hàng đầu với sự tham gia của Yunqi Capital, và các cổ đông hiện hữu là Monolith cùng Quỹ Khoa học và Công nghệ Fudan tiếp tục rót vốn. Sau vòng này, nhiệm vụ quan trọng nhất của công ty trong giai đoạn tiếp theo là làm việc với khách hàng để hoàn thành việc định nghĩa, thiết kế và tape-out con chip suy luận chuyên dụng 6nm.

Xung quanh các kế hoạch cho con chip thương mại đầu tiên, chúng tôi đã trò chuyện với nhà sáng lập kiêm CEO của Trace Intelligence, Hongyang Pan.

Dưới đây là toàn bộ cuộc trò chuyện giữa DeepTech và Hongyang Pan.

Tại sao AI suy luận trên thiết bị

lại cần chip tùy chỉnh?

DeepTech:

Tại sao ông lại chọn thị trường suy luận AI trên thiết bị? Chẳng phải nó đã rất đông đúc rồi sao?

Hongyang Pan:

Thị trường suy luận trên thiết bị là vô cùng lớn. Khi mọi người nói về AI trên thiết bị, những thứ đầu tiên xuất hiện trong đầu thường là điện thoại, AI PC và ô tô. Những thị trường này có sản lượng xuất xưởng khổng lồ và đã có các giải pháp chip khá trưởng thành.

Nhưng ngoài các thị trường này, còn có nhiều nhu cầu chưa được đáp ứng tốt — ví dụ như thiết bị đeo thông minh, bảo mật, AIoT và Trí tuệ nhân tạo hiện thân (Embodied AI). Các tác vụ mà những sản phẩm này chạy thường tập trung hơn, và yêu cầu của chúng về diện tích đế, mức tiêu thụ điện năng, chi phí và năng lực mô hình khác biệt rất lớn. Do đó, các con chip suy luận AI truyền thống gặp khó khăn trong việc đáp ứng tất cả các nhu cầu này.

Lấy thiết bị đeo thông minh làm ví dụ: tại sao hầu hết mọi người không hình thành thói quen sử dụng lâu dài một hoặc hai sản phẩm đeo thông minh? Thực tế là nhiều sản phẩm hiện nay vẫn chưa mang lại trải nghiệm đủ tốt. Do bị hạn chế bởi diện tích và năng lượng, các con chip thường không thể chạy các mô hình lớn hơn khi ngoại tuyến (offline), vì vậy các tác vụ phải được gửi lên đám mây. Việc truyền tải lên đám mây gây ra độ trễ và phụ thuộc vào điều kiện mạng, khiến người tiêu dùng khó chấp nhận chi trả cho các năng lực AI bổ sung. Xử lý ngoại tuyến cục bộ đặc biệt quan trọng trong các kịch bản như xử lý giọng nói thời gian thực và dịch thuật thời gian thực.

Câu trả lời của Trace là xây dựng các kiến trúc chip tùy chỉnh cao, đơn giản hóa triệt để xung quanh mô hình và kịch bản của khách hàng, đẩy PPA đến gần giới hạn vật lý của nó.

DeepTech:

Ý tưởng tùy chỉnh chip cho khách hàng không phải là mới. Tại sao nó chưa trở thành xu hướng chủ đạo trong quá khứ?

Hongyang Pan:

Tôi nghĩ có một vài lý do.

Thứ nhất, việc khách hàng có sẵn sàng từ bỏ tính linh hoạt hay không phụ thuộc vào giai đoạn mà mô hình đã đạt tới. Ba giai đoạn tôi đề cập về cơ bản là một quá trình dần dần đánh đổi tính linh hoạt để lấy PPA và hiệu quả chi phí tốt hơn. Khi kiến trúc vẫn đang thay đổi nhanh chóng, khách hàng cần những con chip đủ linh hoạt; việc tùy chỉnh chỉ thực sự mang lại lợi ích khi kiến trúc đã hội tụ, việc lặp lại chủ yếu diễn ra ở cấp độ tham số, hoặc mô hình đã được chưng cất đủ nhỏ. Và chỉ trong hai năm qua, mới có đủ các kịch bản đạt đến hai giai đoạn sau.

Thứ hai, cấu trúc của các thị trường biên chủ đạo tự nhiên ưu tiên các giải pháp đa năng. Các kịch bản biên có sản lượng lớn nhất hiện nay, như AI PC và điện thoại, bản thân chúng là các thiết bị trung tâm đa chức năng đòi hỏi các con chip cực kỳ linh hoạt; đồng thời, nhu cầu chip của chúng lớn đến mức một công ty chip có thể tạo ra doanh thu đáng kể chỉ bằng cách thắng thầu một trong những thị trường này. Hơn nữa, chi phí thiết kế và sản xuất chip cực kỳ cao — các công ty chip truyền thống thường cần đội ngũ vài trăm người và mất từ hai đến ba năm từ thiết kế đến sản xuất hàng loạt — vì vậy lựa chọn hợp lý đương nhiên là xây dựng một sản phẩm bao phủ càng nhiều khách hàng càng tốt, thay vì tối ưu hóa đến mức cực hạn cho một khách hàng hoặc một danh mục duy nhất.