Qualcomm hợp tác với AWS phát triển chip AI chuyên dụng và tối ưu hóa thiết kế bằng Amazon Bedrock

Qualcomm đang thiết kế các dòng chip tùy chỉnh cho AWS qua nhiều thế hệ sản phẩm, tập trung vào khả năng suy luận AI (AI inference). Hai công ty cũng đang hợp tác phát triển các kết nối quang học với băng thông lên tới 1,6 terabit để xử lý lưu lượng dữ liệu ngày càng tăng trong cơ sở hạ tầng AI. Qualcomm mang đến bề dày kinh nghiệm trong việc thiết kế chip tiết kiệm năng lượng, trong khi Amazon đóng góp cơ sở hạ tầng đám mây của mình. Đổi lại, Qualcomm sử dụng các dịch vụ của AWS như Amazon Bedrock để đẩy nhanh quá trình thiết kế chip.

Amazon là khách hàng lớn thứ ba của Qualcomm trong lĩnh vực trung tâm dữ liệu kể từ tháng 6. Meta đang sử dụng bộ vi xử lý máy chủ Dragonfly C1000, và Microsoft đang triển khai kiến trúc bộ nhớ HBC của Qualcomm trong Azure. Qualcomm đặt mục tiêu đạt doanh thu 15 tỷ USD từ trung tâm dữ liệu vào năm 2029.

AWS đang bổ sung các thiết kế của Qualcomm bên cạnh các dòng chip Trainium, Graviton và Nitro của riêng mình. Động thái này nhắm vào các khối lượng công việc suy luận, nơi chi phí năng lượng trên mỗi token quyết định lợi nhuận. Hiệu suất cũng là trọng tâm của Qualcomm ở phía bên kia của hệ thống, trên các thiết bị biên (edge devices). Vào tháng 3, bộ phận nghiên cứu AI của Qualcomm đã phát hành một framework cho phép chạy các mô hình suy luận trên điện thoại thông minh.

Tin tức AI không thổi phồng – Được biên soạn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo chuyên sâu "AI Radar" độc quyền sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và tham gia phần bình luận của chúng tôi.

Đăng ký ngay