Doanh nghiệp thông minh đang chọn cách 'giảm trí thông minh' cho AI

Các mô hình tiên tiến nhất hiện nay đã thông minh đến mức đáng kinh ngạc. Tuy nhiên, phần lớn công việc trong doanh nghiệp thực tế không quá khó khăn. Nhân viên thẩm định bảo hiểm, y tá, điều phối viên logistics — công việc của họ không phải là khám phá những câu trả lời chưa biết. Đó là việc thực hiện mọi thứ chính xác trong khuôn khổ các quy tắc và bối cảnh hiện có.

Vì vậy, mỗi khối lượng công việc đều có một "ngưỡng thông minh": dưới ngưỡng này, mỗi sự gia tăng nhỏ về độ thông minh của mô hình đều đáng để chi trả; trên ngưỡng này, những nút thắt thực sự trở thành bối cảnh và khả năng thực thi, còn sự thông minh dư thừa chỉ làm tăng chi phí, độ trễ và sự phức tạp.

Bài viết hôm nay, "Right-Sizing Your Intelligence Spend" (Tối ưu hóa chi tiêu cho trí tuệ nhân tạo), là một tác phẩm mới của Jaya Gupta, đối tác tại Foundation Capital, đồng tác giả với hai nghiên cứu sinh tiến sĩ tại Stanford là Avanika Narayan và Jon Saad-Falcon. Trước đây, chúng tôi đã dịch bài viết của cô về cái mà cô gọi là "con hào lớn nhất trong kỷ nguyên AI", vốn nói về khía cạnh tổ chức. Bài viết này nói về tiền bạc: các doanh nghiệp thực sự nên chi tiêu cho "trí tuệ" như thế nào?

Bài viết đề xuất một thước đo thú vị: đừng nhìn vào việc một công ty có thể chi bao nhiêu tiền cho trí tuệ nhân tạo; hãy nhìn vào việc liệu "lượng trí tuệ tiêu thụ trên mỗi nhiệm vụ hoàn thành" có thể tiếp tục giảm xuống hay không.

Chúng ta cần bắt đầu tính toán đến sự lãng phí token. Các nhà nghiên cứu tại Amazon ước tính rằng các hệ thống suy luận có thể tạo ra lượng token gấp 7 đến 10 lần mức thực sự cần thiết khi đối mặt với các tác vụ đơn giản. Trong khi đó, khách hàng doanh nghiệp của OpenAI đã chứng kiến mức tiêu thụ token suy luận trung bình tăng khoảng 320 lần so với cùng kỳ năm ngoái. Tuy nhiên, trong khảo sát của PwC, 56% CEO cho biết họ chưa thấy lợi nhuận tài chính đáng kể. Khoảng cách giữa trí tuệ đã tiêu tốn và những kết quả thực sự đạt được hiện đã có thể đo lường được.

Nhưng "AI quá đắt đỏ" chỉ là bề nổi. Câu hỏi sâu xa hơn là: những loại tác vụ nào thực sự xứng đáng với trí tuệ đắt đỏ nhất?

Câu trả lời của các tác giả là ranh giới này liên tục thay đổi. Những tác vụ đòi hỏi các mô hình tiên phong (frontier models) ngày hôm nay có thể sẽ không cần đến chúng vào ngày mai, khi các mô hình mã nguồn mở ngày càng mạnh mẽ hơn. Ngày càng nhiều công việc thông thường trong doanh nghiệp sẽ vượt qua "ngưỡng thông minh" đó và dần dần được chuyển dịch khỏi các mô hình đắt đỏ nhất. Các mô hình tiên phong cuối cùng nên được dành riêng cho những vấn đề thực sự cần khám phá câu trả lời mới, nơi mà thêm một đơn vị trí tuệ vẫn có thể thay đổi kết quả.

Vì vậy, điều mà các doanh nghiệp thực sự cần trong tương lai có thể không phải là "mô hình tốt nhất", mà là một hệ thống để phân bổ trí tuệ. Mỗi tác vụ đầu vào trước tiên phải được đánh giá: nó nên được chuyển đến một mô hình tiên phong, hay một mô hình nhỏ hơn, tiết kiệm chi phí hơn (mã nguồn mở)? Nên xử lý tại chỗ (on-premise) hay trên đám mây? Nó đòi hỏi khả năng suy luận của mô hình, hay đã có thể nén thành một quy tắc?

Nói cách khác, các mô hình sẽ ngày càng giống như một tài nguyên có thể lập lịch, và các doanh nghiệp cần giữ quyền kiểm soát việc lập lịch đó trong tay mình.

Điều này cũng giải thích tại sao các công ty mô hình và các doanh nghiệp đang vận hành theo những cách hoàn toàn khác biệt. Các công ty mô hình muốn nhiều tính toán hơn để trở nên hữu ích, bán được nhiều token hơn; điều mà các doanh nghiệp thực sự muốn là làm cho một vấn đề lặp đi lặp lại trở nên rẻ hơn theo thời gian, đến mức cuối cùng không cần phải gọi mô hình mỗi lần nữa. Đối với nhóm trước, tăng trưởng sử dụng là doanh thu; đối với nhóm sau, cùng mức tăng trưởng sử dụng đó có thể chỉ là chi phí.

Hai đồng tác giả trước đây đã thực hiện nghiên cứu về "trí tuệ trên mỗi watt" và suy luận lai (hybrid inference), nơi "các mô hình lớn phân rã tác vụ, các mô hình nhỏ thực thi". Điều sau đã được kiểm chứng: để các mô hình tiên phong trên đám mây xử lý việc phân rã tác vụ trong khi các mô hình nhỏ cục bộ thực thi có thể duy trì 97,9% độ chính xác với chi phí chỉ bằng 1/5,7.

Nếu bạn đi theo logic này đến cùng, bạn sẽ nhận được một kết quả hơi phản trực giác: việc sử dụng AI của một doanh nghiệp càng trưởng thành, họ càng ít nên phụ thuộc vào trí tuệ đắt đỏ nhất.

Một vấn đề ngày nay đòi hỏi mười phút suy luận cẩn thận của mô hình có thể vào ngày mai chỉ cần một mô hình nhỏ hơn; xa hơn nữa, có lẽ không cần mô hình nào cả. Quá trình áp dụng AI của doanh nghiệp cũng nên là quá trình liên tục chuyển đổi việc suy luận đắt đỏ thành sự thực thi rẻ hơn, đáng tin cậy hơn.

Tất nhiên, đây cũng là một bài viết có quan điểm rõ ràng. Bản thân Foundation Capital đang đặt cược vào lớp định tuyến (routing layer), các khung thực thi và lớp cải tiến mô hình, và một số công ty được nêu tên trong bài viết phù hợp với các hướng đầu tư của họ. Trong khi đó, Anthropic — công ty bị các tác giả chỉ trích là "được thiết kế để đốt token" — có doanh thu hàng năm vượt quá 3 tỷ USD, với khoảng 80% đến từ khách hàng doanh nghiệp.

Vì vậy, tôi nghĩ điều đáng đọc nhất trong toàn bộ bài viết chính là sự căng thẳng này: các doanh nghiệp đang điên cuồng mua trí tuệ tiên phong, nhưng có thể đang chi trả cho một lượng lớn công việc không thực sự cần đến sự tiên phong đó.

Các tác giả đang đặt cược rằng khi các doanh nghiệp trở nên giỏi hơn trong việc thực hiện phép tính này, các mô hình đắt đỏ nhất sẽ dần rút lui về một tập hợp các vấn đề khó đang ngày càng thu hẹp; những vấn đề đã được giải quyết, lặp đi lặp lại, sẽ được bàn giao từng bước cho các mô hình rẻ hơn, các hệ thống định tuyến và phần mềm.

Nếu bạn tình cờ đang nắm giữ ngân sách cho AI, bạn có thể bắt đầu bằng cách áp dụng thước đo này vào hóa đơn của chính mình.

Dưới đây là bản dịch đầy đủ:

Tối ưu hóa chi tiêu cho trí tuệ nhân tạo

Tiêu đề gốc: Right-Sizing Your Intelligence Spend

Tác giả: Jaya Gupta / Avanika Narayan / Jon Saad-Falcon

Xuất bản lần đầu trên X

Các mô hình tiên tiến nhất hiện nay đã thông minh đến mức đáng kinh ngạc.

Tháng 5 này, OpenAI thông báo rằng một mô hình nội bộ đa năng đã lật ngược một phỏng đoán cốt lõi trong bài toán khoảng cách đơn vị Erdős.

Các nhà toán học đã đau đầu với bài toán này trong gần tám mươi năm. Các nhà toán học bên ngoài đã xác minh chứng minh này; Tim Gowers bình luận rằng nếu một con người tạo ra chứng minh này, nó sẽ xứng đáng được chấp nhận trực tiếp bởi tạp chí Annals of Mathematics.

Trong khi đó, Anthropic báo cáo rằng Claude Opus 4.6 đã xác định và xác minh hơn 500 lỗ hổng bảo mật mức độ nghiêm trọng cao, một số ẩn trong các cơ sở mã đã được kiểm thử fuzz trong nhiều năm, tích lũy hàng triệu giờ CPU.

Những thành tựu này là có thật và có khả năng cực kỳ giá trị. Một số vấn đề chưa có câu trả lời và việc tìm ra chúng có thể trị giá hàng triệu đô la: một chứng minh, một mục tiêu thuốc, một lỗ hổng zero-day, hoặc một cấu trúc thị trường mà chưa ai nắm bắt đầy đủ. Trong những trường hợp như vậy, nhiều trí tuệ hơn rõ ràng là tốt hơn; việc đốt nhiều tài nguyên tính toán hơn, khám phá nhiều con đường hơn là hoàn toàn hợp lý.

Nhưng hầu hết các kết quả trên bảng xếp hạng năng lực mô hình hiện nay đều đến từ các tác vụ dễ xác định và dễ xác minh: chứng minh, bản vá, khai thác lỗ hổng, suy luận khoa học.

Chỉ có một vấn đề: phần còn lại của nền kinh tế không vận hành theo cách này.

Một nhân viên thẩm định bảo hiểm không tìm kiếm những chân lý toán học mới. Cô ấy cần xác định quy tắc nào hiện có của công ty áp dụng cho vụ tai nạn cụ thể này, chủ hợp đồng này, chuỗi sự kiện này.

Một y tá cũng không phát minh ra thuốc. Những gì cô ấy làm là lấy các phác đồ lâm sàng đã được thiết lập và đánh giá chúng dựa trên tiền sử bệnh nhân, các triệu chứng hiện tại và điều kiện thực tế của bệnh viện.

Một điều phối viên logistics cũng không khám phá ra các thuật toán mới. Anh ta giải quyết với hàng tồn kho, thời tiết, hợp đồng và sự chậm trễ của ngày hôm nay.

Một số công việc tạo ra giá trị bằng cách mở rộng ranh giới tri thức nhân loại; hầu hết công việc tạo ra giá trị bằng cách thực thi đúng đắn trong phạm vi những gì tổ chức đã biết.

Nền kinh tế không phải là một phòng thí nghiệm nghiên cứu

Nghiên cứu tiên phong cực kỳ giá trị, nhưng chỉ đại diện cho một phần nhỏ của nền kinh tế.

Dữ liệu từ Cục Thống kê Lao động Hoa Kỳ cho thấy các ngành nghề khoa học sự sống, khoa học vật lý và khoa học xã hội cộng lại chiếm chưa đến 1% tổng số việc làm tại Hoa Kỳ. Có khoảng 2.000 nhà toán học ở Mỹ, khoảng 20.000 nhà vật lý và khoảng 37.000 nhà nghiên cứu máy tính và thông tin; trong khi y tá, quản lý, hành chính, nhân viên logistics và đại diện dịch vụ khách hàng lên tới hàng triệu người.