Satya Nadella cảnh báo về 'Nghịch lý thông tin ngược': Doanh nghiệp cần bảo vệ tài sản trí tuệ khi dùng AI

Nghịch lý thông tin ngược

Trong kỷ nguyên trí tuệ nhân tạo, doanh nghiệp nên bảo vệ quyền sở hữu trí tuệ cốt lõi của mình như thế nào?

Nhà kinh tế học đoạt giải Nobel Kenneth Arrow từng đưa ra một nghịch lý thị trường thông tin nổi tiếng: "Người mua không thể biết giá trị của thông tin trước khi có được nó, nhưng một khi đã có được, họ thực tế đã sở hữu nó miễn phí." Trong "Nghịch lý thông tin" của Arrow, người bán buộc phải chấp nhận rủi ro tặng không kiến thức để có thể bán được nó.

AI tạo ra vấn đề ngược lại. Trong kỷ nguyên AI, người mua buộc phải chấp nhận rủi ro làm lộ kiến thức của chính mình chỉ để sử dụng những gì họ đã mua.

Bạn thực tế đang trả tiền cho trí tuệ hai lần: một lần bằng tiền mặt, và lần thứ hai bằng thứ quý giá hơn — đó là kiến thức độc quyền mà bạn buộc phải tiết lộ để trí tuệ đó phát huy tác dụng. Bạn càng muốn mô hình hoạt động hiệu quả, bạn càng phải nạp vào đó nhiều kiến thức loại này!

Theo thời gian, sự bất đối xứng thông tin ngày càng trở nên nghiêm trọng. Khi bạn sử dụng sản phẩm đã mua, người bán ngày càng hiểu rõ về bạn hơn, trong khi bạn lại biết rất ít về việc người bán đã học được những gì từ bạn.

Đây chính là điều tôi gọi là "Nghịch lý thông tin ngược".

Bằng sáng chế đã giải quyết một khía cạnh của nghịch lý Arrow. Nó cho phép nhà phát minh công khai ý tưởng mà không đơn thuần là dâng tặng nó cho người khác. Nghịch lý thông tin ngược cũng cần một giải pháp tương ứng cho riêng mình.

Điều này đòi hỏi nhiều hơn là chỉ bảo vệ dữ liệu. Các mô hình học hỏi từ "khí thải" — các câu lệnh (prompt) mà mọi người viết, các công cụ mà AI agent sử dụng, và đặc biệt là những chỉnh sửa mà con người thực hiện khi mô hình sai sót. Mỗi lần chỉnh sửa đều được chưng cất thành kiến thức tổ chức. Đây là loại kiến thức mà đối thủ cạnh tranh không bao giờ có thể mua được, và cũng là loại kiến thức bị rò rỉ một cách khó nhận biết: một dấu vết, một lần sửa, một lần đánh giá, tích tụ từng chút một.

Trong quá trình tiêu thụ trí tuệ, bạn đang tạo ra trí tuệ. Và những gì bạn tạo ra, lẽ ra phải thuộc về chính bạn. Đây là trí tuệ theo nghĩa của Hayek, thuộc về cá nhân bạn: kiến thức về thời gian, địa điểm và bối cảnh, thứ mà không ai khác có thể sở hữu. Nó biết suy nghĩ của bạn, giá trị của bạn và cách bạn đo lường sự thành công.

Mặc dù sự đổi mới to lớn từ việc các nhà cung cấp mô hình sử dụng dữ liệu công khai dựa trên nguyên tắc sử dụng hợp lý (fair use) để huấn luyện là cần thiết, nhưng tôi thấy thật trớ trêu khi hiện trạng lại là áp đặt các điều khoản hạn chế đối với việc chưng cất kiến thức, đồng thời bảo lưu quyền học hỏi từ dữ liệu sử dụng và tương tác của khách hàng. Nếu việc học chỉ chảy theo một hướng, giá trị kinh tế sẽ tập trung vào tay chủ sở hữu hạ tầng học tập, thay vì người tạo ra chính kiến thức đó. Do đó, chúng ta phải phân bổ hạ tầng học tập cho từng doanh nghiệp, để họ có thể kiểm soát vòng lặp học tập của riêng mình.

Như Alex Karp đã nói: "Khách hàng công nghệ muốn quyền kiểm soát đối với năng lực tính toán, mô hình, ngăn xếp dữ liệu và alpha của chính họ. Họ muốn biết rằng mình sở hữu tư liệu sản xuất và những tư liệu này sẽ không bị chuyển giao cho người khác." Hệ thống hiện tại đang thực hiện chính sự chuyển giao mà Karp và nhiều doanh nghiệp lo ngại.

Chính vì vậy, doanh nghiệp cần một ranh giới tin cậy thực sự để vốn nhân lực và vốn token mô hình của họ có thể đạt được sự tăng trưởng kép. Trong ranh giới này, dữ liệu, quỹ đạo, đánh giá, trọng số tinh chỉnh và bộ nhớ của tổ chức được tích lũy và tối ưu hóa cùng nhau. Đây là một ranh giới nghiêm ngặt, không gì — ngay cả các sản phẩm phụ của trí tuệ — được phép vượt qua nếu không có sự đồng ý. Doanh nghiệp sẽ có quyền sử dụng đầu ra của mô hình để tinh chỉnh và/hoặc huấn luyện mô hình của riêng mình. Tôi cho rằng đây là quyền của mỗi doanh nghiệp trong việc căn chỉnh mô hình theo nghĩa vụ trách nhiệm giải trình của chính mình.

Trong kỷ nguyên đám mây, doanh nghiệp tích lũy dữ liệu. Trong kỷ nguyên AI, họ tích lũy năng lực học tập. Ranh giới tin cậy phải tiến hóa theo đó, từ việc bảo vệ thông tin sang bảo vệ cơ chế học tập, thích ứng và tích lũy trí tuệ của tổ chức. Để đảm bảo điều này, mỗi doanh nghiệp phải thực hiện những điều sau:

• Kiểm soát: Tạo ra các đánh giá riêng của bạn, vì đánh giá định nghĩa tiêu chuẩn về "tốt" trong nội bộ tổ chức. Đồng thời, giữ quyền sở hữu đối với bộ nhớ tổ chức, quỹ đạo, phản hồi, quyết định và bối cảnh cơ quan, cũng như khả năng sử dụng đầu ra của mô hình được tạo ra từ các tác vụ và truy vấn của chính bạn.

• Năng lực: Xây dựng môi trường học tập độc quyền của riêng bạn trong ranh giới người thuê (tenant boundary) để huấn luyện hoặc tinh chỉnh mô hình, cho phép mô hình học hỏi trong quy trình làm việc thực tế mà không làm lộ kiến thức của công ty.

• Lựa chọn: Đảm bảo lớp điều phối (orchestration layer) tách biệt với bất kỳ mô hình đơn lẻ nào. Hãy tự hỏi: Nếu một mô hình bạn đang sử dụng bị loại bỏ, liệu bạn có thể tận dụng các mô hình khác để chạy và tối ưu hóa các đánh giá của mình không? Ngay cả khi một mô hình "đa năng" bị loại bỏ, liệu năng lực "chuyên môn" của công ty bạn có còn được bảo toàn?

• Chi phí: Bằng cách tách biệt lớp điều phối, bạn còn có thể tích hợp ngữ cảnh, mô hình và tác vụ theo cách hiệu quả nhất và tiết kiệm chi phí nhất mà không làm giảm chất lượng.

• Tăng trưởng kép: Kết hợp bốn yếu tố này, bạn có thể tạo ra vòng lặp học tập liên tục của riêng mình (thuật toán leo đồi), giúp khoản đầu tư AI mang lại hiệu ứng tăng trưởng kép cho giá trị công ty bạn.

Nói cách khác, một công ty nên có khả năng sử dụng một mô hình mà không cần từ bỏ kiến thức làm nên sự độc nhất của chính mình. Đây chính là nghịch lý thông tin ngược mà chúng ta cần đối mặt.