CEO Nvidia cảnh báo về 'nút thắt cổ chai' trong hạ tầng AI

Công nghệ

Khi AI ngày càng tiến tới các tác vụ phức tạp, Nvidia phải giải bài toán tốc độ xử lý dữ liệu để giữ lợi thế trong cuộc đua hạ tầng.

CEO Nvidia cho rằng chip nhớ là yếu tố quyết định trong cuộc đua AI. Ảnh: Bloomberg.

Jensen Huang, CEO Nvidia cho rằng chip nhớ đã trở thành nút thắt cổ chai lớn nhất trong quá trình phát triển AI. Nhận định này cho thấy cuộc đua AI đang chuyển dịch từ sức mạnh tính toán đơn thuần sang năng lực xử lý, lưu trữ và truy xuất dữ liệu tốc độ cao.

Theo Caiwen Overseas News, ông Huang cho biết các tác vụ AI đang thay đổi rất nhanh. Chúng không chỉ dừng lại ở việc tạo văn bản hoặc hình ảnh. Các hệ thống mới đang tiến tới các tác nhân thông minh và phức tạp hơn, có khả năng xử lý nhiều hoạt động trong ngữ cảnh dài hơn.

Điều này khiến nhu cầu về bộ nhớ băng thông cao ngày càng lớn. Với các mô hình AI hiện đại, dữ liệu phải được đưa vào, lưu lại và truy xuất liên tục. Nếu bộ nhớ không theo kịp, sức mạnh của GPU cũng khó được khai thác trọn vẹn.

“Chip nhớ đã trở thành nút thắt cổ chai lớn nhất trong sự phát triển của AI”, Jensen Huang nói.

Trong nhiều năm, Nvidia xây dựng lợi thế nhờ GPU. Đây là phần cứng cốt lõi giúp công ty thống trị thị trường AI. Tuy nhiên, khi quy mô tăng lên và các hệ thống AI trở nên phức tạp hơn, GPU không còn là yếu tố duy nhất quyết định hiệu suất.

Vì vậy, Nvidia đang chuyển hướng sang xây dựng các hệ thống AI tích hợp chặt chẽ hơn giữa GPU và chip nhớ. Cách tiếp cận này giúp tăng tốc độ trao đổi dữ liệu, giảm độ trễ và cải thiện khả năng xử lý của toàn bộ hệ thống.

Tuy nhiên, chiến lược này cũng tạo ra thách thức mới. Nvidia cần nguồn cung chip nhớ ổn định với số lượng lớn từ các nhà sản xuất như Micron, SK Hynix và Samsung. Đây là những doanh nghiệp giữ vai trò quan trọng trong chuỗi cung ứng bộ nhớ cho AI.

Song, năng lực sản xuất chip nhớ chuyên dụng không thể mở rộng ngay lập tức. Nếu nguồn cung bị hạn chế, tiến độ giao hàng các hệ thống AI của Nvidia có thể bị ảnh hưởng. Điều này đặc biệt nhạy cảm trong bối cảnh nhu cầu từ các trung tâm dữ liệu vẫn tăng mạnh.

Các nhà phân tích thị trường cho rằng tình trạng thiếu hụt bộ nhớ là giai đoạn tự nhiên trong quá trình phát triển của AI. Khi ngành công nghiệp chuyển sang các mô hình lớn và phức tạp hơn, điểm nghẽn sẽ xuất hiện ở những phần khác của hệ thống, thay vì chỉ riêng GPU.

NVIDIA từng được cứu bởi cộng đồng game thủ

Ngay cả khi giá cổ phiếu rơi xuống đáy, NVIDIA vẫn xuất xưởng những con chip silicon phức tạp nhất từng được chế tạo. Những con chip này kết hợp với sự bùng nổ của internet băng thông rộng tại gia và sự phát triển của máy tính đa phương tiện gia đình đã mở ra điều mà một số nhà phê bình sau này gọi là Thời kỳ Hoàng kim của game PC.

Cuốn sách "NVIDIA - Cỗ máy tư duy vĩ đại" thuật lại câu chuyện đầy lôi cuốn về Jensen Huang và NVIDIA, cũng như cách ông dẫn dắt công ty trở thành một đế chế công nghệ.

Minh Hoàng

Nvidia Nvidia CEO AI Jensen Huang Chip

Bạn có thể quan tâm