Tác nhân AI tiêu tốn năng lượng gấp 600 lần so với chatbot thông thường

Google và OpenAI đã trấn an người dùng bằng các số liệu tiêu thụ năng lượng thấp cho mỗi truy vấn AI. Tuy nhiên, dữ liệu từ Claude Code của nhà khoa học khí hậu Zeke Hausfather lại cho thấy một câu chuyện khác.

Google cho biết một lời nhắc (prompt) văn bản Gemini trung bình chỉ tiêu tốn 0,24 watt-giờ (Wh), ít năng lượng hơn cả chín giây xem truyền hình. CEO Sam Altman của OpenAI ước tính một truy vấn ChatGPT trung bình là 0,34 Wh, tương đương với một lượt tìm kiếm trên Google vào năm 2009.

Cả hai dữ liệu này đều được công bố vào năm ngoái. Ngay từ lúc đó, đã rõ ràng rằng các con số này không phản ánh đúng thực tế sử dụng AI. Chúng không tính đến các mô hình suy luận tạo ra số lượng token gấp nhiều lần từ một truy vấn chat đơn lẻ, quá trình xử lý đa phương thức trên nhiều định dạng, hệ thống đa tác nhân (multi-agent), tạo mã, khả năng mở rộng trên hàng tỷ lượt sử dụng và nhiều yếu tố khác. Đặc biệt, "nghiên cứu" của Google đã hạ thấp đáng kể mức tiêu thụ năng lượng thực tế.

Nhà khoa học khí hậu Zeke Hausfather hiện đã tính toán mức chênh lệch đó lớn đến mức nào trong một phân tích trên The Climate Brink. Một điểm mù lớn vẫn còn đó: không ai bên ngoài các phòng thí nghiệm AI biết được chi phí năng lượng thực tế trên mỗi token của một mô hình tiên tiến nhất. Cần lưu ý rằng các con số của Hausfather là những ước tính hợp lý, nhưng vẫn chỉ là ước tính.

Chúng cũng dựa trên các mô hình sử dụng hiện tại. Các phòng thí nghiệm AI đang nỗ lực mở rộng quy mô các hệ thống dựa trên tác nhân (agent-based) hoạt động tự động trong nhiều ngày, nhiều tuần hoặc thậm chí nhiều tháng. Điều đó có thể dẫn đến sự gia tăng theo cấp số nhân trong mức tiêu thụ năng lượng.

3,2 tỷ token trong tám tuần

Hausfather đã theo dõi chi tiết quá trình sử dụng của chính mình trong tám tuần. Claude Code lưu trữ nhật ký cục bộ đầy đủ của mọi phiên làm việc, bao gồm số lượng token chính xác được API báo cáo cho mỗi lần gọi mô hình.

1.138 lời nhắc mà ông nhập đã kích hoạt hơn 14.000 lần gọi mô hình, trung bình mười hai lần cho mỗi lời nhắc. Mỗi lời nhắc xử lý trung bình 2,9 triệu token. Để so sánh, một cuộc hội thoại chat thông thường không có suy luận hoặc tìm kiếm web chỉ chạy khoảng một nghìn token.

Tổng cộng, Claude Code của ông đã xử lý 3,2 tỷ token. Trong đó, 96 phần trăm là các lượt đọc bộ nhớ đệm (cache reads) vì tại mỗi bước trong số 14.000 bước, tác nhân đều đọc lại toàn bộ ngữ cảnh đã tích lũy. Văn bản mà Hausfather thực sự nhìn thấy trên màn hình, tức đầu ra của mô hình, chỉ chiếm 0,4 phần trăm tổng số token được xử lý.

Ước tính tốt nhất của ông về tổng mức tiêu thụ là khoảng 170 kWh điện trung tâm dữ liệu trong tám tuần, với biên độ không chắc chắn từ 70 đến 330 kWh. Hausfather chỉ đo trực tiếp số lượng token từ nhật ký Claude Code của mình, và việc chuyển đổi sang giá trị điện năng dựa trên ba phương pháp độc lập với các giả định khác nhau.

Tính trên mỗi lời nhắc, con số này vào khoảng 150 Wh, gấp khoảng 600 lần so với một lời nhắc chat trung bình. "Một 'lời nhắc' cuối cùng không phải là đơn vị đo lường việc sử dụng AI, cũng giống như 'chuyến đi' không phải là thước đo của việc lái xe; quan trọng là bạn đi được bao xa," Hausfather viết.

Một ngày sử dụng tác nhân tiêu tốn nhiều điện hơn hai chiếc tủ lạnh

Phiên làm việc trung bình với Claude Code của Hausfather tiêu thụ khoảng 0,6 kWh, gấp năm mươi lần lượng điện cần thiết để sạc một chiếc điện thoại. Ngày trung bình ông sử dụng Claude Code đạt 3,0 kWh (phạm vi: 1,2 đến 5,9 kWh), nhiều hơn mức tiêu thụ hàng ngày của hai chiếc tủ lạnh.

Vào ngày cường độ cao nhất, khi nhiều tác nhân song song đang thực hiện phân tích dữ liệu địa lý mở rộng, ông ước tính đã tiêu thụ 11 kWh. Theo Hausfather, con số này bằng hơn một phần ba mức tiêu thụ điện hàng ngày của một hộ gia đình trung bình tại Mỹ.

Một năm sử dụng tác nhân cường độ cao tương đương với một chiếc máy sấy quần áo

Nếu tính theo quy mô cả năm, việc sử dụng Claude Code dựa trên tác nhân của Hausfather sẽ tiêu thụ khoảng 1,1 MWh điện trung tâm dữ liệu (0,4 đến 2,2 MWh), bằng khoảng một phần mười lượng điện một hộ gia đình Mỹ trung bình sử dụng hàng năm. Dựa trên cơ cấu điện năng trung bình của Mỹ, con số đó tương đương với khoảng 370 kg CO₂ tương đương mỗi năm.

Con số này cao hơn một chút so với việc vận hành một chiếc máy sấy quần áo điện trong một năm (262 kg) và bằng khoảng một nửa chuyến bay khứ hồi hạng phổ thông từ San Francisco đến New York (700 kg), mặc dù Hausfather lưu ý rằng con số chuyến bay chỉ bao gồm lượng khí thải CO₂ trực tiếp. Nó chiếm khoảng tám phần trăm lượng khí thải hàng năm từ một chiếc ô tô chạy bằng xăng thông thường tại Mỹ và khoảng hai phần trăm dấu chân carbon hàng năm của một người Mỹ trung bình. "Đây vừa là nguồn phát thải lớn, vừa là một phần tương đối khiêm tốn trong tổng dấu chân carbon của tôi," Hausfather viết.

Điện sạch quan trọng hơn việc cắt giảm sử dụng

Hausfather không kêu gọi sự hy sinh hay cảm giác tội lỗi. Ông cho biết, việc hạn chế cá nhân của một nhóm nhỏ người dùng cường độ cao "sẽ không làm thay đổi được xu hướng", đồng thời nói thêm rằng việc chuyển các tác vụ đơn giản sang các mô hình nhỏ hơn là hợp lý, vì chúng sử dụng ít năng lượng hơn từ năm đến bảy lần trên mỗi token so với các mô hình tiên tiến nhất.

Tuy nhiên, ông lập luận rằng đòn bẩy lớn nhất chính là cường độ carbon của bản thân nguồn điện. Nếu cùng một khối lượng công việc được chạy bằng nguồn điện sạch, dấu chân carbon sẽ giảm khoảng 90 phần trăm. Vấn đề là gần ba phần tư công suất phát điện tại chỗ được lên kế hoạch cho các trung tâm dữ liệu tại Mỹ vẫn chạy bằng khí đốt tự nhiên.

Đó là nơi Hausfather nhìn thấy cơ hội. Các công ty AI mang đến nguồn vốn khổng lồ và sự cấp bách khác thường. Nếu số tiền đó đổ vào năng lượng sạch, mở rộng lưới điện và các công nghệ tiên tiến như địa nhiệt hoặc năng lượng hạt nhân, sự bùng nổ AI có thể giúp lưới điện trở nên sạch hơn so với trước khi nó xuất hiện.

Tin tức AI không cường điệu – Được tuyển chọn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo độc quyền "AI Radar" về các công nghệ tiên phong sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và tham gia phần bình luận của chúng tôi.

Đăng ký ngay