Startup chip AI Etched đạt định giá 10,3 tỷ USD, thách thức sự thống trị của GPU

Etched, startup chip AI được thành lập bởi ba sinh viên bỏ học Harvard vào năm 2022, vừa chốt vòng gọi vốn Series C trị giá 300 triệu USD với mức định giá 10,3 tỷ USD, theo chia sẻ của đồng sáng lập kiêm COO Robert Wachen với TechCrunch.

Vòng gọi vốn này được dẫn dắt bởi Sequoia, với sự tham gia của Andreessen Horowitz, SK Hynix, Jane Street và Diffusion Capital, cùng các nhà đầu tư từ những vòng trước. Những cái tên khác đứng sau công ty bao gồm Peter Thiel, Andrej Karpathy, Dylan Field, Amjad Masad và nhiều người khác.

Etched từng được định giá 5 tỷ USD vào tháng 12 khi huy động được 500 triệu USD, nghĩa là mức định giá của công ty đã tăng gấp đôi chỉ trong khoảng bảy tháng. Công ty cho biết đây là mức định giá cao nhất từ trước đến nay cho một vòng Series C do Sequoia dẫn dắt. Tháng trước, Etched thông báo đã sản xuất thành công các con chip tự thiết kế, các hệ thống hoàn chỉnh đầu tiên đang được khách hàng thử nghiệm và công ty đã nhận được đơn đặt hàng trị giá 1 tỷ USD.

Etched ra đời vào thời điểm ý tưởng xây dựng một con chip chuyên dụng cho các mô hình AI dựa trên công nghệ transformer (kiến trúc đứng sau hầu hết các hệ thống AI hiện đại, bao gồm ChatGPT và Claude) bị coi là điên rồ, nếu không muốn nói là kỳ quặc. Công ty vẫn đang phải đối mặt với định kiến rằng các sản phẩm của họ — vốn được bán dưới dạng hệ thống hoàn chỉnh chứ không chỉ là chip — là những con chip chỉ được thiết kế để chạy các LLM cụ thể.

Wachen giải thích rằng điều đó không đúng. Các hệ thống này có thể chạy bất kỳ mô hình AI nào, bao gồm các mô hình Mixture of Experts như DeepSeek và Qwen — một kiến trúc chia nhỏ các tác vụ cho các mô hình con chuyên biệt thay vì dựa vào một mô hình lớn duy nhất — cũng như các thiết kế phi transformer như Mamba, vốn được xây dựng trên một kiến trúc nền tảng khác gọi là state-space model. (Thú vị là, ý tưởng khắc các phần của một mô hình AI cụ thể trực tiếp lên silicon để tăng hiệu suất không còn bị coi là xa vời nữa. Google được cho là đang theo đuổi khái niệm tương tự với chip Frozen v2 cho Gemini.)

Tuy nhiên, điểm nổi bật của Etched hiện nay là họ đã thiết kế hai thành phần mới từ đầu để tăng tốc độ suy luận (inference) — quá trình tính toán diễn ra sau khi người dùng gửi câu lệnh (prompt).

"Suy luận được xây dựng theo hai giai đoạn," Wachen nói, "prefill (tiền xử lý) và decode (giải mã)." Giai đoạn "prefill" liên quan đến việc hiểu câu lệnh, bao gồm cả ngữ cảnh. Nó đòi hỏi tính toán chuyên sâu về mặt toán học. Giai đoạn "decode" tạo ra các token đầu ra (câu trả lời thực tế mà người dùng nhìn thấy). Giai đoạn này cần ít tính toán hơn nhưng lại đòi hỏi lượng bộ nhớ khổng lồ.

Etched đã tạo ra một con chip prefill hoạt động nhanh hơn "đáng kể", ông cam kết, "bằng cách chạy ở điện áp thấp hơn nhiều so với bất kỳ con chip AI nào khác. Chúng tôi gọi đây là suy luận điện áp thấp." Điện áp thấp hơn tạo ra ít nhiệt hơn, cho phép con chip chứa được nhiều bóng bán dẫn hơn.

Đối với quá trình decode, Etched đã tạo ra một loại bộ nhớ mới và "công nghệ kết nối mà chúng tôi gọi là bộ nhớ quy mô cụm (cluster scale memory). Nó cho phép nhiều con chip kết nối với nhau và sử dụng một nhóm bộ nhớ dùng chung với độ trễ rất, rất thấp," ông nói. Kết quả là, Etched cam kết mang lại tốc độ cao nhưng chi phí thấp hơn.

Vì startup này ra đời trước khi phần lớn thế giới công nghệ (ngoại trừ Nvidia) hiểu được nhu cầu tính toán chuyên biệt của AI, các nhà sáng lập gồm CEO Gavin Uberti, Wachen và CTO Chris Zhu đã phải đối mặt với rất nhiều người hoài nghi, ngay cả sau khi công ty thông báo rằng lô silicon đầu tiên của họ đã được TSMC sản xuất thành công.

Phần lớn sự hoài nghi đó đến từ việc có rất ít người được tiếp cận với các hệ thống này. Cho đến nay, quyền truy cập chỉ giới hạn ở các nhà đầu tư và khách hàng sớm. Trên thực tế, đó cũng là cách Etched có được danh sách các nhà đầu tư nổi tiếng ngay từ đầu — bằng cách cho họ xem các bản demo riêng tư tại văn phòng.

"Andrej Karpathy từ Anthropic, Noam Brown từ OpenAI, Geoffrey Hinton, cũng như tất cả các nhà đầu tư trong vòng gọi vốn này — họ đều là những người đã thực sự trải nghiệm phần cứng và cảm thấy rất hào hứng về nó," Wachen nói.

Tuy nhiên, đó vẫn là một chặng đường dài và khó khăn với nhiều việc phải làm trước khi các hệ thống rack được sản xuất hàng loạt và bàn giao. Bộ ba này nổi tiếng với việc bỏ học Harvard để thành lập Etched, khi đó họ chưa biết cách huy động vốn (chứ đừng nói đến số tiền khổng lồ mà họ cần) hay cách tuyển dụng.

"Chúng tôi không hề biết mọi thứ sẽ khó khăn đến mức nào," ông nói. "Tôi nghĩ chúng tôi vẫn cần phải khiêm tốn trước những gì cần thiết để thực sự đạt được quy mô lớn."

Wachen nhớ lại việc đặt chân đến Bay Area sau khi nói với cha mẹ rằng anh sẽ bỏ học để khởi nghiệp, mà không có văn phòng hay căn hộ nào được sắp xếp trước. Anh đã ngủ trên sàn nhà của một người bạn trong căn nhà trống không có đồ đạc.

"Tôi nhớ mình đã ở trong căn nhà mà bạn tôi sắp bán, dùng một chiếc khăn tắm làm chăn," anh cười. Các nhà sáng lập cuối cùng đã thiết lập các máy chủ cần thiết để chạy các công cụ thiết kế chip trong gara của một nhân viên đời đầu và "mỗi khi cần khởi động lại, anh ấy sẽ gọi cho vợ mình, và cô ấy sẽ đến nhấn nút khởi động lại."

Ngày nay, có 400 người đang làm việc hối hả trong văn phòng và Etched vận hành một trung tâm dữ liệu 2 megawatt. "Chúng tôi đang chạy các token trong phòng thí nghiệm của mình ngay hôm nay, làm việc với một số công ty AI lớn nhất thế giới," ông nói.

Wachen giờ đây cũng đã có chăn, và một tấm nệm "thậm chí là một chiếc gối. Nhiều chiếc gối," anh nói đùa.

Quan trọng hơn, anh và các đồng sáng lập không bao giờ để những người hoài nghi ngăn cản mình. "Đã đi được một chặng đường dài. Thế giới đã rất, rất khác biệt. Nhưng tôi nghĩ, khi bạn thực sự tin rằng điều gì đó là khả thi và bạn cứ kiên trì làm việc trong một thời gian dài, bạn có thể làm được."

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.