Đội ngũ đứng sau vLLM vừa công bố bước đột phá khi tối ưu hóa khung suy luận DeepSeek, giúp Google TPU vượt mặt GPU NVIDIA với hiệu suất tăng 57% khi vận hành mô hình Kimi.
Vì sao đáng đọc: Tin tức kỹ thuật quan trọng về tối ưu hóa hạ tầng AI, thách thức sự thống trị của NVIDIA và mở ra tiềm năng lớn cho việc sử dụng TPU trong suy luận mô hình ngôn ngữ lớn.
The amount of compute in space will obviously round up to 100% of all compute
DịchElon Musk chia sẻ thông tin Google chuẩn bị phóng TPU lên quỹ đạo bằng tên lửa SpaceX Falcon 9 để thử nghiệm trung tâm dữ liệu AI trên không gian, đồng thời khẳng định đây là tương lai tất yếu của ngành điện toán.
Many Google TPU customers are already asking Google for SemiAnalysis AgentX performance results, as …
DịchTrước nhu cầu lớn từ các khách hàng sử dụng Google TPU, SemiAnalysis xác nhận sẽ sớm công bố bộ tiêu chuẩn đánh giá AgentX, hứa hẹn trở thành thước đo chuẩn mực cho hiệu năng suy luận của các tác nhân AI (AI agents).
Anthropic vừa bổ nhiệm Amir Salek, người đứng sau 7 thế hệ chip TPU của Google, nhằm đẩy mạnh chiến lược tự phát triển chip AI. Động thái này giúp hãng giảm phụ thuộc vào chuỗi cung ứng và tối ưu hóa hạ tầng cho các mô hình AI, tương tự như cách OpenAI đang thực hiện với dự án Jalapeño.
Over the years, Google has been improving its original 2D Torus Inter-Chip-Interconnect (ICI) networ…
DịchGoogle đã nâng cấp mạng kết nối liên chip (ICI) từ cấu trúc 2D Torus trên TPUv2 lên 3D Torus bắt đầu từ thế hệ TPUv4 và v5p, giúp tối ưu hóa hiệu suất truyền tải dữ liệu.