Tom Tunguz: Liệu mức tăng năng suất 3x của OpenAI có phải chỉ nhờ AI không ngủ?

Thị trường đang cho chúng ta thấy rằng mình nên đạt năng suất cao gấp 3 lần nhờ AI.

Điều gì sẽ xảy ra nếu mức tăng năng suất đó chỉ đơn thuần là một AI làm việc 24 giờ một ngày trong khi con người chỉ làm việc tám giờ?

OpenAI đã công bố các tính toán đằng sau tuyên bố gấp 3 lần của họ. Vào giữa tháng 8, đội ngũ nghiên cứu của họ đã ghi nhận 3,14 ngày làm việc của tác nhân (agent-workdays) cho mỗi ca làm việc 8 giờ của con người. Một nhà nghiên cứu điển hình thường chạy bốn tác nhân song song.

Ca làm việc của máy móc đó đi kèm với một cái giá công nghiệp. Vào cuối tháng 3, một nhà nghiên cứu trung bình tại OpenAI chi 14 USD mỗi ngày cho việc suy luận (inference). Đến giữa tháng 8, hóa đơn đó đã tăng vọt lên hơn 600 USD mỗi ngày: mức tăng gấp 40 lần trong chưa đầy năm tháng. Ở mức cao nhất, nhóm 90% nhà nghiên cứu hàng đầu tiêu tốn hơn 7.000 USD mỗi ngày, tương đương với mức chi phí hàng năm là 2,5 triệu USD.

Với mức 2,5 triệu USD mỗi năm cho mỗi vị trí, việc suy luận giống như các công cụ nhà máy hạng nặng. Nhưng nó đi kèm với một điểm khác biệt về tài chính: đó hoàn toàn là OPEX (chi phí vận hành).

Các nhà máy ô tô mua robot hàn bằng CAPEX (chi phí vốn). Họ chạy các ca đêm để khấu hao máy móc vốn bị mất giá dù được sử dụng hay để không. Các hệ thống AI đảo ngược phép tính đó. Suy luận là chi phí vận hành được đo lường. Không cần công cụ vật lý và không cần trả lương cho ca đêm, một công ty có thể vận hành máy móc suốt đêm với chi phí biến đổi thuần túy.

Tỷ lệ 3,14 ngày làm việc không có nghĩa là tư duy thông minh gấp ba lần. Đó là một kỹ sư giám sát ba ca chạy máy trong khi bản thân chỉ thức trong một ca.

Tuy nhiên, không giống như robot hàn ô tô, dây chuyền lắp ráp kỹ thuật số này có tỷ lệ lỗi rất lớn. Hơn một nửa số tác vụ kéo dài từ bốn đến tám giờ thành công trong sáu tháng qua vẫn cần sự can thiệp của con người; phòng thí nghiệm thẳng thắn thừa nhận rằng “tốc độ tiến bộ tổng thể có thể sẽ không theo kịp các số liệu cụ thể này.”

Mức tăng chi phí tính toán gấp 40 lần đã mang lại lượng giờ làm việc gấp ba lần. Nhưng với việc người giám sát vẫn phải gỡ rối hơn một nửa số lượt chạy, ngày làm việc của kỹ sư chuyển từ kiến trúc sáng tạo sang việc đi lại trong nhà máy và xử lý các lỗi máy móc.

Tại sao phải chạy máy suốt đêm nếu tỷ lệ lỗi cao như vậy? Vì nỗi sợ và tham vọng.

Nếu đồng nghiệp của bạn triển khai bốn tác nhân suốt ngày đêm, việc đăng xuất đồng nghĩa với việc bị tụt hậu. Cảm giác phấn khích khi sở hữu một siêu năng lực do chủ lao động chi trả thật sự gây nghiện. Khi bạn có một lực lượng lao động kỹ thuật số không biết mệt mỏi trên bảng cân đối kế toán của người khác, bạn sẽ không bao giờ tắt nhà máy.

Trong bốn mươi năm, một lập trình viên chỉ cần một chiếc MacBook và một ca làm việc tám giờ. Ngày nay, một nhà nghiên cứu hàng đầu tại OpenAI điều khiển bốn tác nhân song song, đốt cháy 2,5 triệu USD mỗi năm cho chi phí tính toán và dành cả buổi sáng để sửa các lỗi máy móc từ đêm hôm trước. Điều này giải thích cho sự thất vọng thầm lặng đang lan rộng trong ngành kỹ thuật phần mềm hiện nay.

Thị trường nghe thấy năng suất gấp 3 lần và mong đợi những phép màu sáng tạo. Kỹ sư lại bị mắc kẹt trong việc gỡ rối tỷ lệ phế phẩm 50% từ những con robot chạy suốt đêm. Thị trường gọi đó là bước nhảy vọt gấp 3 lần về năng suất. Một CFO có lẽ chỉ gọi đó là chi phí trả cho ca thứ hai và thứ ba. Hiện tại, đó là cái giá trung thực cho một cỗ máy không bao giờ ngủ. Câu hỏi thực sự là khi nào ca thứ hai và thứ ba bắt đầu mang lại hiệu suất cao hơn ca đầu tiên.

OpenAI báo cáo 3,1 ngày làm việc của tác nhân; chúng tôi làm tròn thành 3,14 vì sự mỉa mai, vì tỷ lệ 3,14 ngày làm việc của tác nhân trên một ngày làm việc của con người, một cách phù hợp, là một chiếc bánh (pie), không phải là một tử số.

OpenAI: Tăng tốc nghiên cứu: Góc nhìn bên trong OpenAI

Khảo sát nhà phát triển Stack Overflow: Thu hẹp khoảng cách niềm tin AI: 84% nhà phát triển sử dụng các công cụ AI, nhưng niềm tin đã giảm xuống còn 29%, với 66% trích dẫn mã nguồn “gần đúng, nhưng chưa hoàn toàn chính xác” và 45% báo cáo rằng việc gỡ lỗi mã do AI tạo ra tốn nhiều thời gian hơn là tự viết thủ công.

Phép tính hiệu suất: một ca làm việc 8 giờ của con người để lại 16 giờ qua đêm (hai ca chạy máy bổ sung). Với việc OpenAI tiết lộ rằng hơn một nửa số tác vụ kéo dài 4 đến 8 giờ đòi hỏi sự can thiệp của con người, hiệu suất tự động là ~50%. Hai ca máy với hiệu suất 50% tương đương với một ca làm việc hiệu quả cho đầu ra hoàn thiện. Điều đó mang lại ~2 lần khối lượng công việc được hoàn thành trong khi ghi nhận gấp 3 lần thời gian chạy máy thô.