Google phát triển chip 'Frozen v2': Tích hợp kiến trúc Gemini trực tiếp vào phần cứng

Google đang phát triển một loại chip máy chủ mới có tên nội bộ là "Frozen v2", tích hợp trực tiếp kiến trúc của mô hình AI Gemini vào trong silicon.

Theo các nguồn tin được The Information trích dẫn, con chip này có thể đạt hiệu suất xử lý phản hồi AI cao gấp 6 đến 10 lần so với các chip TPU hiện tại của Google. Google dự kiến bắt đầu triển khai chip này từ năm 2028 và coi Frozen v2 là một đợt thử nghiệm cho các dòng chip chuyên dụng, với quy mô sản xuất nhỏ hơn so với dòng TPU của hãng.

Không giống như các TPU của Google vốn hoạt động với nhiều mô hình khác nhau, Frozen v2 có các phần cấu trúc của mô hình Gemini được tích hợp ngay vào phần cứng. Tên gọi này tuân theo logic tương tự như việc "đóng băng" (freezing) các tham số trong các mô hình AI, nơi bạn khóa các giá trị để chúng không thay đổi nữa. Với Frozen v2, một phần của mô hình được "đóng băng" vĩnh viễn vào chính con chip, giúp cắt giảm các bước tính toán và tăng tốc độ phản hồi.

Ý tưởng ban đầu được cho là đến từ Jeff Dean, nhà khoa học trưởng của Google Deepmind. Thiết kế Frozen đầu tiên của ông yêu cầu nhúng trực tiếp trọng số (weights) của mô hình vào chip. Trọng số là các thiết lập cụ thể quyết định cách một mô hình AI phản hồi các truy vấn. Google đã loại bỏ phương pháp đó vì con chip sẽ chỉ hoạt động với một phiên bản Gemini duy nhất và sẽ nhanh chóng trở nên lỗi thời.

Frozen v2 đi theo hướng linh hoạt hơn bằng cách nhúng kiến trúc mô hình thay vì trọng số, nghĩa là nhúng bản thiết kế nền tảng thay vì các tham số đã được tinh chỉnh. Các trọng số mới vẫn có thể được nạp vào chip. Theo The Information, mức độ kiến trúc nào sẽ thực sự được mã hóa cứng vẫn chưa được quyết định.

Tối ưu hóa biên lợi nhuận từ suy luận AI

Vì con chip chỉ hoạt động chừng nào Google còn duy trì cùng một kiến trúc mô hình, nên nó có lẽ sẽ không trở thành sản phẩm dành cho khách hàng bên ngoài. Google hiện đã cho Meta thuê các chip TPU, cung cấp chúng cho các khách hàng đám mây bên ngoài và định vị chúng thông qua chương trình "TPU@Premises" như một giải pháp thay thế cho Nvidia, với mục tiêu nội bộ là chiếm lĩnh 10% doanh thu hàng năm của Nvidia. Ngược lại, Frozen v2 được thiết kế để giảm bớt áp lực về năng lực tính toán AI nội bộ của Google.

Nếu con chip này thực hiện đúng lời hứa, nó vẫn có thể trở thành một lợi thế cạnh tranh lớn. Trong ngành công nghiệp AI, việc các công ty tối ưu hóa chi phí suy luận tốt đến mức nào ngày càng quyết định biên lợi nhuận của họ. Google có thể sử dụng Frozen v2 để vận hành các mô hình mạnh mẽ với mức giá thấp hơn và giành thị phần từ OpenAI và Anthropic.

Tin tức AI không thổi phồng – Được tuyển chọn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo độc quyền "AI Radar" về các công nghệ tiên phong sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và tham gia phần bình luận của chúng tôi.

Đăng ký ngay