AWS yêu cầu kỹ sư tắt EC2 nhàn rỗi để giải tỏa cơn khát hạ tầng AI

Theo tin từ IT ngày 7 tháng 8, tờ The Information hôm nay đưa tin rằng AWS của Amazon gần đây đã đưa ra một yêu cầu khá "giản dị" đối với các kỹ sư của mình, đó là hãy tắt các máy tính đám mây không còn được sử dụng.

Theo báo cáo, yêu cầu này của Amazon chủ yếu nhắm vào các EC2 instance đang ở trạng thái nhàn rỗi. Khi AI đang tiêu tốn tài nguyên tính toán với tốc độ ngày càng nhanh, nhà cung cấp dịch vụ đám mây lớn nhất thế giới cũng bắt đầu cảm nhận được áp lực từ tình trạng thiếu hụt sức mạnh tính toán.

Dữ liệu cho thấy vấn đề sử dụng tài nguyên kém hiệu quả tại AWS đang rất nghiêm trọng, với khoảng 65% số EC2 instance có mức sử dụng CPU trung bình dưới 20% trong chu kỳ đo lường 30 ngày.

Vì lý do này, Amazon đã nâng cấp Compute Optimizer (chú thích của IT: Trình tối ưu hóa tính toán), tự động phân tích dữ liệu IO và mức sử dụng CPU của máy chủ trong vòng 14 ngày, đồng thời gắn nhãn các máy ảo có lưu lượng mạng rất thấp và mức sử dụng CPU đỉnh điểm dưới 15%.

Đồng thời, trong năm qua, AWS đã bổ sung thêm 3,8 GW công suất điện, đủ để cung cấp năng lượng cho 2,8 triệu hộ gia đình.

Nguyên nhân khiến tài nguyên tính toán của Amazon trở nên khan hiếm hiện nay rất rõ ràng: các instance điện toán đám mây được trang bị GPU là nguồn tài nguyên cốt lõi để huấn luyện và vận hành các mô hình ngôn ngữ lớn. Cơn sốt AI hiện nay đã khiến thị trường điện toán đám mây trở nên cạnh tranh gay gắt.