Satya Nadella đưa ra cảnh báo gây sốc về việc doanh nghiệp sử dụng các mô hình AI độc quyền

Trong tất cả các cuộc tranh luận đang diễn ra về những mặt trái tiềm ẩn của AI, có một nỗi lo đang khiến những người đam mê AI tại Thung lũng Silicon phải đau đầu nhất. Họ lo sợ rằng các phòng thí nghiệm AI khổng lồ đang bán các mô hình độc quyền thực chất lại giống như những "con ngựa thành Troy".

Mối quan ngại nằm ở chỗ, khi các công ty khởi nghiệp và doanh nghiệp sử dụng các mô hình AI từ những phòng thí nghiệm như OpenAI và Anthropic, các phòng thí nghiệm này lại có quyền truy cập ngày càng nhiều vào những thông tin kinh doanh nhạy cảm nhất của các công ty đó. Các nhà sản xuất mô hình sau đó có thể sử dụng kiến thức đó cho riêng mình, và có khả năng trở thành đối thủ cạnh tranh với chính khách hàng của họ. Những người đưa ra cảnh báo này bao gồm từ các nhà đầu tư mạo hiểm như Jason Calacanis đến CEO của Palantir là Alex Karp.

Mới đây, trong một bài đăng blog đầy bất ngờ vào thứ Hai, CEO Satya Nadella của Microsoft đã tham gia vào nhóm này. Nadella cảnh báo rằng người dùng AI (những "người mua" theo cách gọi của ông) đang phải trả giá hai lần. Họ biết mình đang chi tiền cho việc sử dụng token AI, nhưng họ cũng vô tình trao đi những dữ liệu quý giá trong quá trình đó.

"Về cơ bản, bạn trả tiền cho trí tuệ hai lần, một lần bằng tiền mặt và lần thứ hai bằng thứ thậm chí còn giá trị hơn: kiến thức độc quyền mà bạn buộc phải tiết lộ để làm cho trí tuệ đó trở nên hữu ích. Bạn càng muốn mô hình hoạt động hiệu quả bao nhiêu, bạn càng phải cung cấp cho nó nhiều kiến thức bấy nhiêu!" ông viết.

Nguy hiểm hơn cả, ông lập luận rằng các doanh nghiệp đang thực sự dạy cho các mô hình về những sắc thái trong hoạt động kinh doanh của chính họ.

"Các mô hình học hỏi từ 'khí thải' (exhaust), từ các câu lệnh (prompt) mà mọi người viết, các công cụ mà tác nhân (agent) sử dụng, và đặc biệt là những chỉnh sửa mà mọi người thực hiện khi mô hình sai sót. Mỗi chỉnh sửa đều được chắt lọc thành bí quyết của tổ chức," ông viết.

Đây là "loại kiến thức mà đối thủ cạnh tranh không bao giờ có thể mua được", vậy mà các doanh nghiệp lại đang trao nó đi.

Nadella lập luận rằng nếu các công ty AI được tự do quét internet để huấn luyện mô hình của họ, thì việc các doanh nghiệp được nghiên cứu — hay "chắt lọc" (distill) — các mô hình đó cũng là điều công bằng. "Chắt lọc" là phương pháp sử dụng kết quả đầu ra của một mô hình để tìm hiểu cách nó hoạt động và huấn luyện một mô hình mới, thường là rẻ hơn, dựa trên những thông tin chi tiết đó. Vào tháng 2, Anthropic đã cáo buộc các mô hình mã nguồn mở của Trung Quốc gửi hàng triệu câu lệnh tới Claude như một cách để cải thiện mô hình của chính họ, đồng thời thúc giục chính phủ Mỹ thắt chặt các biện pháp kiểm soát xuất khẩu.

Quan điểm của Nadella là các nhà sản xuất mô hình không thể muốn cả hai. Thật đạo đức giả khi họ tự do huấn luyện trên dữ liệu của thế giới trong khi lại hạn chế người khác làm điều tương tự với mô hình của họ.

"Mặc dù sự đổi mới tuyệt vời đến từ việc các nhà cung cấp mô hình có quyền sử dụng hợp lý để huấn luyện mô hình trên dữ liệu công khai là cần thiết, nhưng tôi thấy thật mỉa mai khi hiện trạng lại là quay sang áp đặt các điều khoản hạn chế đối với việc chắt lọc," CEO của Microsoft viết.

Nadella đặc biệt lo ngại khi các nhà sản xuất mô hình "bảo lưu quyền học hỏi từ dữ liệu sử dụng và tương tác của khách hàng".

Giải pháp của Nadella là kiểu giải pháp mà CEO của một nhà cung cấp dịch vụ đám mây khổng lồ sẽ đề xuất. Ông muốn các công ty "giữ quyền sở hữu" dữ liệu của họ bao gồm các câu lệnh, phản hồi, v.v. Vì vậy, ông thúc giục họ xây dựng "môi trường học tập độc quyền" của riêng mình trên đám mây (nơi dữ liệu của họ có khả năng đã được lưu trữ sẵn và thuận tiện thay, đó có thể là đám mây Azure của Microsoft). Ông cũng muốn các công ty xây dựng cái mà ông gọi là "lớp điều phối" (orchestration layers) — về cơ bản là một cách để dễ dàng chuyển đổi giữa các mô hình AI từ các nhà cung cấp khác nhau thay vì bị khóa chặt vào một nhà cung cấp duy nhất. Các công cụ như "cổng" (gateway) AI cho phép các công ty làm chính xác điều này đã trở nên ngày càng phổ biến.

Mặc dù Nadella không bao giờ sử dụng từ "mã nguồn mở" như một phương pháp để giữ quyền sở hữu, nhưng đây là một ẩn ý rõ ràng. Tuy nhiên, còn có một ẩn ý khác.

Các công ty lớn, nhiều trong số đó vẫn duy trì một số trung tâm dữ liệu riêng bên cạnh việc sử dụng đám mây, đang chuyển sang các mô hình mã nguồn mở được cài đặt tại chỗ ("on-prem", theo thuật ngữ ngành). Idit Levine, nhà sáng lập kiêm CEO của Solo.io — công ty sản xuất phần mềm mạng và bảo mật giúp các doanh nghiệp quản lý hệ thống AI — cho biết bà đang chứng kiến chính sự thay đổi này diễn ra với khách hàng của mình. Sau khi thử nghiệm với các nhà sản xuất mô hình độc quyền, họ bắt đầu tự hỏi: "Tôi có thể lấy một mô hình mã nguồn mở và chạy nó tại chỗ không? Nó sẽ làm được gần 90% những gì mô hình lớn đang làm. Chi phí sẽ thấp hơn nhiều," bà nói với TechCrunch. "Họ hiểu điều đó và họ có thể kiểm soát nó."

Công nghệ của Solo.io đã được chọn vào năm ngoái làm công nghệ cung cấp năng lượng cho dự án Agentgateway của Linux Foundation. Công ty của bà có các khách hàng doanh nghiệp như T-Mobile, ADP và SAP. Bà nhận thấy các công ty ngày càng cài đặt các mô hình mã nguồn mở tại chỗ và coi đây là làn sóng lớn tiếp theo trong việc sử dụng AI của doanh nghiệp.

Bà không đơn độc. Vercel — nổi tiếng nhất với tư cách là nền tảng xây dựng và lưu trữ trang web, gần đây đã bổ sung các công cụ chuyển đổi mô hình AI — và OpenRouter, một công ty giúp các nhà phát triển định tuyến các yêu cầu qua các mô hình AI khác nhau — đều đang chứng kiến lưu lượng truy cập vào các mô hình mã nguồn mở tăng vọt. Trên thực tế, các mô hình mở chiếm 29% tổng lưu lượng truy cập được định tuyến qua cổng của Vercel vào tháng trước.

Với việc CEO của Microsoft, một công ty đã đầu tư vào cả OpenAI và Anthropic, hiện đang công khai thúc giục các doanh nghiệp thận trọng khi sử dụng các mô hình độc quyền, chúng tôi cá rằng xu hướng này sẽ tiếp tục phát triển. "Khi tiêu thụ trí tuệ, bạn đang tạo ra trí tuệ. Và những gì bạn tạo ra nên thuộc về bạn," Nadella viết.

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.