Dự án AI của Amazon đội vốn 860% suốt 5 tháng mới bị phát hiện, gây thiệt hại 1,8 triệu USD

Theo tờ Financial Times của Anh, Amazon đã phát hiện nhiều trường hợp vượt ngân sách "thảm hại" do sai sót trong triển khai AI và thiếu kiểm soát chi phí.

Trong một cuộc họp nhân viên vào ngày 29 tháng 7, các kỹ sư cấp cao của Amazon đã chỉ ra với đồng nghiệp rằng, khi cố gắng chuyển giao một số tác vụ lập trình truyền thống cho AI xử lý, đã xuất hiện những "khoản chi ngoài kế hoạch" không lường trước được, và đây không phải là những sự cố cá biệt. Các kỹ sư đang tạo ra các biện pháp bảo vệ "tự động hóa" cho các dự án tương lai để kiểm soát chi phí.

Theo kỹ sư này, Amazon từng có một dự án thử nghiệm sử dụng mô hình AI Claude Sonnet của Anthropic để khớp thông tin tác giả với danh sách sản phẩm trên nền tảng thương mại điện tử. Tuy nhiên, dự án này không những không đạt được hiệu quả như mong đợi mà còn phát sinh chi phí lên tới 1,8 triệu USD (tỷ giá hiện tại khoảng 12,179 triệu Nhân dân tệ), vượt ngân sách tới 860% và phải mất năm tháng mới phát hiện ra tình trạng này.

Trong một trường hợp khác, công ty đã phát sinh chi phí ngoài dự kiến khoảng 541.000 USD (Ghi chú của IT: tỷ giá hiện tại khoảng 3,66 triệu Nhân dân tệ) do phát triển công cụ kiểm toán tài chính.

Ở trường hợp thứ ba, Amazon có một dự án sử dụng AI để tối ưu hóa tốc độ giao vận hậu cần, kết quả là phát sinh khoảng 134.000 USD chi phí ngoài kế hoạch, và vấn đề này phải mất hơn hai tuần mới được phát hiện.

Amazon phản hồi rằng: "Giống như bất kỳ công nghệ mới nào, chúng tôi đang thử nghiệm, học hỏi và cải thiện cách sử dụng AI, bao gồm cả việc nâng cao hiệu quả chi phí."

Cuộc họp nhân viên cũng đề cập rằng, những lỗi mã nguồn vốn "gần như không tốn chi phí" trong các hệ thống truyền thống, khi được thực hiện bởi các mô hình AI lại có thể gây ra "chi phí cao thảm hại".

Amazon cho biết các trường hợp này chỉ liên quan đến một số ít nhóm trong công ty và không đại diện cho tình hình sử dụng AI trên toàn bộ công ty. Công ty khẳng định việc chọn lọc các trường hợp cá biệt và mô tả chúng như một hiện tượng phổ biến không phản ánh đúng cách thức mà các nhóm tại Amazon đang thúc đẩy ứng dụng AI.

Hiện tại, quy mô nhân viên doanh nghiệp toàn cầu của Amazon vào khoảng 300.000 người, với doanh thu hàng quý khoảng 180 tỷ USD (tỷ giá hiện tại khoảng 1,22 nghìn tỷ Nhân dân tệ). Công ty đang tiến hành cắt giảm nhân sự quy mô lớn để giảm chi phí và hỗ trợ cho các khoản đầu tư AI khổng lồ.

Amazon dự kiến chi phí vốn trong năm nay sẽ đạt 200 tỷ USD (tỷ giá hiện tại khoảng 1,35 nghìn tỷ Nhân dân tệ), trong đó phần lớn nguồn vốn sẽ được sử dụng cho cơ sở hạ tầng trí tuệ nhân tạo và xây dựng trung tâm dữ liệu.

Đồng thời, các doanh nghiệp cũng đang đối mặt với áp lực chi phí do sự thay đổi trong mô hình tính phí khi sử dụng dịch vụ AI. Các nhà cung cấp dịch vụ AI bao gồm Anthropic và OpenAI đang chuyển từ mô hình đăng ký cố định sang mô hình tính phí dựa trên số lượng Token, tức là tính phí dựa trên khối lượng dữ liệu mà mô hình xử lý.

Với sự thay đổi trong cấu trúc giá dịch vụ AI, một số doanh nghiệp bắt đầu giảm sự phụ thuộc vào các mô hình cao cấp, chuyển sang sử dụng các mô hình tầm trung có chi phí thấp hơn, hoặc chọn các mô hình mở (open-weights), chỉ chịu chi phí tài nguyên tính toán cần thiết để vận hành mô hình.

Đầu năm nay, Amazon cũng đã đóng cửa một bảng xếp hạng nội bộ dùng để thống kê việc sử dụng nền tảng phát triển Kiro của nhân viên. Trước đó, bảng xếp hạng này đã khiến một số nhân viên tiêu thụ lượng lớn Token để "cày thứ hạng", được gọi là "tokenmaxxing". Ban quản lý Amazon sau đó đã thông báo với nhân viên rằng mục tiêu thiết kế ban đầu của dịch vụ này là khuyến khích sử dụng các công cụ AI, nhưng cuối cùng lại dẫn đến việc gia tăng chi phí.

Tuyên bố quảng cáo: Các liên kết ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian sàng lọc, kết quả chỉ mang tính chất tham khảo, tất cả các bài viết của IT đều bao gồm tuyên bố này.