Runware ra mắt Sonic Inference Pod: Trung tâm dữ liệu di động định hình tương lai hạ tầng AI

Vào thứ Ba, công ty hạ tầng AI Runware đã công bố ra mắt trung tâm dữ liệu dạng mô-đun của riêng mình có tên là Sonic Inference Pod. Được thiết kế như một đơn vị vận chuyển đơn lẻ, Pod đại diện cho một loại hình điện toán linh hoạt hơn, có thể đặt cạnh các dự án trung tâm dữ liệu khổng lồ của các nhà cung cấp dịch vụ đám mây quy mô lớn (hyperscalers).

Runware cho biết Pod có thể cung cấp khả năng suy luận (inference) với chất lượng cao hơn nhưng chi phí thấp hơn so với các nền tảng suy luận serverless và GPU cloud khác. Thiết kế mô-đun đồng nghĩa với việc dễ dàng tăng công suất nhanh chóng bằng cách tạo ra các pod mới thay vì phải mở rộng một trung tâm dữ liệu cố định. Flaviu Radulescu, đồng sáng lập kiêm CEO của Runware, chia sẻ với TechCrunch rằng theo một cách nào đó, đây chính là tương lai.

“Chúng tôi tin rằng điện toán phân tán, được đặt gần người dùng cuối hơn để suy luận nhanh hơn, là yếu tố sẽ chiến thắng trong dài hạn,” ông nói và lấy công ty của mình làm ví dụ. Ngoài mức giá thấp hơn, Radulescu lưu ý rằng hệ thống Runware có thể mở rộng và tăng công suất nhanh chóng, triển khai ở bất cứ đâu có điện, và thích ứng nhanh với các phiên bản phần cứng mới. Các pod của Runware cũng không sử dụng nước mà thay vào đó là hệ thống làm mát vòng kín, có thể xây dựng trong vài ngày, so với hàng tháng hoặc thậm chí hàng năm để xây dựng các trung tâm dữ liệu truyền thống.

“Nhu cầu về suy luận đang tăng nhanh hơn khả năng xây dựng các cơ sở hạ tầng,” Radulescu nói. “Điều chúng tôi muốn là cung cấp năng lượng cho trí tuệ của thế giới, trở thành xương sống mà mọi mô hình AI chạy trên đó với công suất theo kịp nhu cầu thay vì kìm hãm nó.”

Radulescu cho biết Runware hiện có 10 pod đang được triển khai trên khắp Hoa Kỳ, Châu Âu và Châu Á - Thái Bình Dương. Công ty hiện đã cung cấp dịch vụ suy luận cho một vài doanh nghiệp, bao gồm Higgsfield AI và Wix, đồng thời có sẵn 160 địa điểm để vận hành các pod của mình ngay lúc này. Runware đã công bố vòng gọi vốn Series A trị giá 50 triệu USD vào tháng 12 để cung cấp hạ tầng cần thiết cho các công ty tạo hình ảnh. Họ coi việc mở rộng sang các pod là một phần trong sứ mệnh cốt lõi của công ty: cung cấp khả năng suy luận cho các doanh nghiệp, thay vì chỉ là một sản phẩm đơn lẻ.

Các phòng thí nghiệm AI như OpenAI và SpaceX vẫn đang chạy đua để xây dựng các trung tâm dữ liệu trên khắp Hoa Kỳ. Ví dụ, theo các báo cáo, OpenAI đang tiến gần đến việc đạt được thỏa thuận trị giá 500 tỷ USD để xây dựng một trung tâm dữ liệu tại Ohio. Tuy nhiên, Radulescu không coi những dự án đó là mối đe dọa đối với Sonic Inference Pods, ông mô tả sự linh hoạt của các pod là một yếu tố khác biệt chính.

“Mỗi pod hoạt động như một phần của một mạng lưới duy nhất, vì vậy các yêu cầu sẽ đi đến nơi có công suất, gần người dùng hơn, và nếu một pod ngoại tuyến, lưu lượng truy cập sẽ chuyển sang pod khác,” ông nói, đồng thời cho biết thêm rằng một sự cố hệ thống chỉ khiến một pod ngừng hoạt động thay vì toàn bộ cơ sở cố định. “Những khách hàng muốn phần cứng chuyên dụng sẽ có toàn bộ pod cho riêng mình.”

Ông cũng không quá lo lắng về việc các công ty khác tự xây dựng hệ thống này, đơn giản vì phần cứng phát triển chậm và nguồn nhân tài để xây dựng cũng như sửa chữa công nghệ này rất khan hiếm.

“Một sai sót trong thiết kế bảng mạch sẽ tiêu tốn hàng tháng trời cho việc thiết kế lại, mô phỏng, chế tạo, thử nghiệm và phân phối,” ông nói. “Mỗi yêu cầu đó đều cần một người hiểu chính xác từng linh kiện làm gì và điều gì sẽ xảy ra nếu nó bị hỏng.”

Tuy nhiên, việc xây dựng các trung tâm dữ liệu AI là một chủ đề gây tranh cãi, đặc biệt là vì lượng tài nguyên mà nó tiêu thụ. Hiện tại, các cộng đồng nơi đặt trung tâm dữ liệu đã báo cáo về việc chi phí tiện ích tăng cao. Một ngày nào đó, Runware hy vọng có thể vận hành bằng năng lượng tái tạo và không tiêu tốn các tài nguyên mà cộng đồng cần, nhưng ngày đó không nhất thiết là hôm nay.

Radulescu cho biết mức tiêu thụ điện năng của AI dù sao cũng sẽ tăng, “được thúc đẩy bởi nhu cầu suy luận, chứ không phải bởi ai là người cung cấp nó.” Điều Runware tập trung vào lúc này là cách đáp ứng nhu cầu đó, ông nói. “Không tổn thất truyền tải, không dùng nước để làm mát, và chúng tôi đang sử dụng nguồn điện hiện có thay vì yêu cầu xây dựng thêm công suất lưới điện mới. Suy luận được xây dựng theo cách này đồng nghĩa với việc ít cần lưới điện mới hơn, ít nước hơn, cho cùng một lượng điện toán.”

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.

Dominic-Madori Davis là phóng viên cấp cao về đầu tư mạo hiểm và khởi nghiệp tại TechCrunch. Cô làm việc tại Thành phố New York.

Bạn có thể liên hệ hoặc xác minh thông tin từ Dominic bằng cách gửi email đến [email protected] hoặc qua tin nhắn mã hóa tại số +1 646 831-7565 trên Signal.

Xem tiểu sử