Meta xây dựng 'bộ não thứ hai' cho doanh nghiệp: AI Agent tự học hỏi từ chuyên gia

Nhiều tổ chức lớn gặp phải vấn đề tương tự khi nói đến kiến thức chuyên môn. Mặc dù một phần kiến thức được ghi lại dưới dạng các mô hình, cẩm nang (playbooks), danh sách kiểm tra và khung làm việc, nhưng những kiến thức chuyên môn giá trị nhất lại nằm trong đầu con người và hiếm khi được lưu trữ ở bất kỳ nơi nào bền vững. Ví dụ, trong các lĩnh vực tuân thủ, cùng một loại câu hỏi có thể xuất hiện trong hàng trăm bài đánh giá sản phẩm, các đánh giá của chuyên gia mất nhiều ngày nghiên cứu thủ công, và sự thiếu nhất quán giữa các đánh giá tạo ra rủi ro thực sự cho tổ chức.

Không hiếm trường hợp các chuyên gia dành nhiều thời gian để trả lời các câu hỏi thường quy hơn là tập trung vào những công việc thực sự mới mẻ và mơ hồ, nơi mà khả năng phán đoán của họ quan trọng nhất. Chúng ta cần những hệ thống có thể nắm bắt cách các chuyên gia trong tổ chức tư duy và cung cấp kiến thức đó cho bất kỳ ai cần, để chuyên môn trở nên dễ chia sẻ, phát triển và bảo tồn hơn. Chúng tôi bắt đầu giải quyết thách thức này bằng cách hệ thống hóa trí tuệ tổ chức thành một AI agent cho một lĩnh vực tuân thủ cụ thể. Agent này kết hợp một hệ thống tri thức đóng vai trò là "bộ não thứ hai" của tổ chức, một lớp suy luận phản ánh cách các chuyên gia thực sự tư duy, và một quy trình cải tiến tự động giúp tích lũy nỗ lực của chuyên gia một cách vĩnh viễn. Các mô hình này có thể áp dụng cho bất kỳ lĩnh vực doanh nghiệp nào có kiến thức chuyên môn sâu, dù đó là tài chính, bảo mật hay kỹ thuật.

Tổng quan về kiến trúc

Các LLM có sẵn (off-the-shelf) cung cấp một nền tảng vững chắc, nhưng chúng thường cần bối cảnh tổ chức sâu sắc hơn để thực sự hiệu quả trong các lĩnh vực chuyên biệt. Nếu không có sự nền tảng đó, một mô hình đa năng sẽ có giá trị hạn chế vì nó không thể phân biệt được giữa những gì tổ chức có thể làm (tóm tắt thông tin chung) và những gì tổ chức nên cân nhắc thực hiện (dựa trên các quan điểm lịch sử, định hướng công ty, bối cảnh kinh doanh, v.v.). Trong các lĩnh vực có rủi ro cao, việc thu hẹp khoảng cách này đòi hỏi phải cung cấp cho mô hình kiến thức và ưu tiên của chính tổ chức đó để phân tích của nó phản ánh đúng cách tổ chức thực sự tư duy.

Hệ thống chúng tôi thiết kế có bốn lớp, mỗi lớp giải quyết một vấn đề riêng biệt:

Các lớp này phụ thuộc lẫn nhau. Cấu trúc tệp của hệ thống tri thức giúp việc chỉnh sửa tự động trở nên khả thi. Các quy trình rõ ràng của lớp suy luận giúp việc xác định nguyên nhân lỗi trở nên dễ dàng. Khung đánh giá kiểm soát mọi thay đổi. Và vòng lặp cải tiến phản hồi ngược lại cả tri thức và suy luận. Nếu loại bỏ bất kỳ lớp nào, các lớp còn lại sẽ suy giảm hiệu quả.

Các tổ chức lớn có thể tích lũy hàng ngàn tài liệu như một sản phẩm phụ của công việc chuyên môn. Thật dễ dàng khi coi những tài liệu đó là kiến thức tổ chức, nhưng kiến thức thực sự lại nằm ở phần ẩn: cách các chuyên gia tư duy, điều gì họ ưu tiên và cách họ giải quyết sự mơ hồ. Một agent truy xuất các đoạn tài liệu tại thời điểm suy luận (inference time) phải suy diễn lại tư duy đó từ các nguồn thô trong mỗi lần chạy, điều này chậm, dễ sai sót và thiếu nhất quán.

Chúng tôi làm cho kiến thức ẩn đó trở nên rõ ràng ngay từ đầu. Một quy trình ngoại tuyến (offline) chạy dài hạn sẽ suy luận thông qua các tài liệu nguồn và chắt lọc chúng thành các tệp tri thức có cấu trúc – các tuyên bố được biên soạn về cách tổ chức diễn giải lĩnh vực của mình, với các ràng buộc, giới hạn và các hàm ý điều hướng được định dạng để máy có thể đọc được.

Quan trọng nhất, kiến thức đó sau đó tạo thành cơ sở của một vòng lặp phản hồi, cho phép agent học hỏi và thực hiện các phản hồi từ chuyên gia con người mà không cần phải huấn luyện lại mô hình nền tảng.

Ngành công nghiệp đã hội tụ về một ý tưởng tương tự. LLM Wiki của Andrej Karpathy cấu trúc kiến thức của agent dưới dạng một đồ thị tệp có thể điều hướng, và Open Knowledge Format của Google chuẩn hóa điều này để đảm bảo khả năng tương tác giữa các agent. Điểm chung là kiến thức nên được trích xuất trước, cấu trúc rõ ràng và tiết lộ dần dần thay vì suy diễn lại trong mỗi truy vấn. Chúng tôi đã mở rộng các nguyên tắc này thành một hệ thống nơi độ trung thực của trích dẫn và tính nhất quán của tổ chức là không thể thương lượng, tổ chức hơn 200 tệp thành một hệ thống phân loại nghiêm ngặt:

Mỗi tệp khai báo các phụ thuộc (depends_on) và các thành phần tiêu thụ (referenced_by) trong phần YAML frontmatter, tạo thành một đồ thị phụ thuộc hai chiều. Khi một tệp thay đổi, bạn có thể truy vết chính xác những gì khác có thể bị ảnh hưởng, điều này rất quan trọng khi vòng lặp tự cải tiến đề xuất các chỉnh sửa tự động.

Tổ chức kiến thức theo mật độ và tần suất sử dụng

Một quyết định kiến trúc quan trọng là cách phân chia kiến thức giữa wiki được biên soạn và truy xuất bổ sung (RAG). Chúng tôi phân chia dựa trên mật độ thông tin và tần suất sử dụng dự kiến.

Các nguồn có mật độ cao, được tham chiếu thường xuyên sẽ đưa vào wiki: Các tệp chắt lọc ghi lại cách tổ chức tư duy, chẳng hạn như các quan điểm, khung quyết định, ví dụ về ranh giới và các diễn giải chiến lược. Agent tham khảo các tệp này trong hầu hết mọi lượt truy vấn. Vì chúng mã hóa tư duy đang phát triển của tổ chức, chúng cần được cập nhật, và cấu trúc wiki giúp chúng dễ dàng cập nhật, quản lý phiên bản và xác thực.

Các nguồn thưa thớt, liên quan theo tình huống được phục vụ thông qua tìm kiếm ngữ nghĩa hoặc từ vựng (RAG): các tài liệu quan trọng khi áp dụng nhưng không cần chi tiết trong hầu hết các lần chạy, chẳng hạn như tài liệu tham khảo chi tiết, thông số kỹ thuật sản phẩm riêng lẻ, hồ sơ quyết định lịch sử và kiến thức chuyên biệt bên ngoài. Việc tải tất cả chúng vào wiki sẽ làm hệ thống trở nên cồng kềnh và làm loãng sự tập trung.

Kết quả là tư duy cốt lõi của agent luôn dựa trên kiến thức tổ chức tinh lọc và cập nhật nhất, trong khi nó vẫn có thể tiếp cận các bằng chứng hỗ trợ khi kịch bản yêu cầu. Sự kết hợp này tạo ra một bộ não thứ hai cho tổ chức, mã hóa cách tổ chức diễn giải và áp dụng thông tin, thay vì chỉ biết nơi tìm kiếm thông tin đó.

Suy luận chuyên gia thông qua các công thức có thể kết hợp (Composable Recipes)

Chỉ kiến thức thôi là chưa đủ. Các chuyên gia trong lĩnh vực không chỉ đơn thuần nhớ lại các sự kiện, họ tuân theo các phương pháp luận có cấu trúc: một chuyên gia phân tích tài chính làm việc theo mô hình định giá từng bước, một kỹ sư bảo mật tuân theo quy trình mô hình hóa mối đe dọa. Thách thức là nắm bắt các phương pháp luận đó dưới dạng mà LLM có thể thực thi một cách đáng tin cậy.

Chúng tôi giải quyết vấn đề này bằng các quy trình có thể kết hợp mà chúng tôi gọi là các công thức (recipes). Trong khi các tệp tri thức mang tính khai báo, thì các công thức mang tính mệnh lệnh. Mỗi công thức quy định một quy trình phân tích gồm nhiều bước, chỉ rõ những gì cần kiểm tra trước, kiến thức nào cần tải ở mỗi bước, quy trình quyết định nào cần tuân theo và những gì tạo nên một phân tích hoàn chỉnh.

Lựa chọn thiết kế quan trọng là tách biệt những gì agent biết với cách nó tư duy. Các công thức tham chiếu đến các tệp tri thức nhưng không chứa các sự kiện chuyên môn; các tệp tri thức nêu rõ các quan điểm nhưng không quy định các quy trình. Điều này có nghĩa là:

Các công thức kết hợp thành các đường ống (pipelines), giống như công thức chính của bếp trưởng cho một bữa tiệc sẽ ủy quyền cho các công thức phụ cho từng thành phần (nước sốt, protein, đồ trang trí) mà bản thân nó không chứa các chi tiết đó. Công thức điều hướng cấp cao nhất của chúng tôi kiểm tra đầu vào và chọn các công thức hạ nguồn để gọi, mỗi công thức xử lý một giai đoạn phân tích.

Đây cũng là điều cho phép tiết lộ dần dần (progressive disclosure). Thay vì tải trước một tập hợp hướng dẫn nguyên khối bao gồm mọi kịch bản có thể xảy ra, mỗi bước công thức chỉ mang theo các hướng dẫn và kiến thức liên quan đến giai đoạn đó. Các phiên bản đầu tiên sử dụng một tệp hướng dẫn phẳng duy nhất và tải tất cả các nguồn qua tìm kiếm ngữ nghĩa, kéo một lượng lớn các tệp có mức độ liên quan hỗn hợp vào cửa sổ ngữ cảnh (context window) trong mỗi lần chạy. Sau khi tái cấu trúc thành các giai đoạn dựa trên công thức, mỗi truy vấn chỉ chạm đến một tập hợp con nhỏ, mục tiêu, giúp cắt giảm khoảng 80% số token tiêu thụ mỗi lượt. Cửa sổ ngữ cảnh là hữu hạn và sự chú ý sẽ giảm dần theo khối lượng, vì vậy việc cung cấp đúng hướng dẫn vào đúng thời điểm sẽ cải thiện trực tiếp chất lượng suy luận.

Giữ quyền kiểm soát cho con người

Các chuyên gia con người luôn giữ quyền kiểm soát hệ thống này. Agent tăng tốc và cấu trúc công việc của họ; nó không thay thế khả năng phán đoán hay thẩm quyền của họ đối với kết quả.

Chúng tôi thực thi điều này thông qua hai cơ chế:

Các điểm kiểm tra (checkpoints) là những điểm xác định trong quá trình phân tích nơi agent đưa ra suy luận trung gian để chuyên gia xem xét trước khi tiếp tục, và chuyên gia có thể xác nhận, sửa chữa hoặc chuyển hướng.

Các bước leo thang (escalations) được kích hoạt khi agent gặp phải sự mơ hồ thực sự, dù là từ các đầu vào không rõ ràng hay bằng chứng hỗ trợ nhiều hơn một cách đọc hợp lý. Thay vì ép buộc một giải pháp, nó chuyển câu hỏi cho chuyên gia, người có lựa chọn sẽ quyết định con đường mà phân tích sẽ đi theo.

Các điểm kiểm tra và leo thang phục vụ ba mục đích cùng lúc:

Quyết định càng quan trọng thì điều này càng có ý nghĩa, đó là lý do tại sao chúng tôi khuyến nghị giữ con người trong vòng lặp (human in the loop) theo mặc định trong các lĩnh vực như tuân thủ, đánh giá rủi ro tài chính, đánh giá bảo mật và an toàn kỹ thuật.

Bánh đà tự cải tiến (Self-Improvement Flywheel)

Chúng tôi coi bánh đà tự cải tiến là phần đặc biệt nhất của hệ thống này. Trong khi hệ thống tri thức có cấu trúc và các công thức có thể kết hợp tạo ra một hệ thống dễ đọc bởi con người và agent, có thể kiểm thử và mô-đun hóa, thì số lượng tệp phụ thuộc lẫn nhau khiến việc bảo trì thủ công không thể mở rộng. Khi các chuyên gia trong lĩnh vực cung cấp phản hồi cho một agent, phản hồi đó phải được dịch thành các chỉnh sửa tệp chính xác. Quá trình này có thể mất nhiều tuần vì nó đòi hỏi phải hiểu toàn bộ đồ thị phụ thuộc, xác minh rằng không có gì khác bị hỏng và xác nhận rằng bản sửa lỗi thực sự hoạt động.

Đã có một khối lượng lớn công việc – từ các hệ thống bộ nhớ RAG đến chỉnh sửa tri thức theo trọng số mô hình – dành riêng cho việc giải quyết cách các agent lưu trữ, truy xuất và cập nhật tri thức. Nhưng ít sự chú ý hơn được dành cho việc giữ cho cơ sở tri thức tổ chức dựa trên tài liệu luôn chính xác khi nó phát triển và khi các quan điểm của chuyên gia thay đổi. Các agent tự soạn thảo các bản sửa lỗi của riêng mình ngày càng phổ biến; nhưng chúng tôi chưa thấy mức độ nghiêm ngặt trong xác thực này được áp dụng cho một cơ sở tri thức có cấu trúc mà không cần huấn luyện lại mô hình.

Chúng tôi coi việc bảo trì đó là một vấn đề biên dịch và tự động hóa nó. Mọi sự sửa chữa của chuyên gia đều trải qua bốn giai đoạn:

Khi vòng lặp hoàn tất, bộ kiểm thử hồi quy (regression test suite) được làm phong phú thêm với vấn đề vừa được sửa để các bản cập nhật trong tương lai duy trì hành vi này.

Chẩn đoán: Xác định nguyên nhân gốc rễ cho mỗi lần sửa chữa

Phản hồi thô từ chuyên gia đến từ các dấu vết hội thoại nơi các chuyên gia lĩnh vực (SME) tương tác với agent và cung cấp các chỉnh sửa. Giai đoạn chẩn đoán trích xuất các tín hiệu có cấu trúc từ những cuộc hội thoại này.