Microsoft ra mắt chuẩn kiểm soát hành vi cho AI Agent

Nội dung dịch chi tiết

Khi các tác nhân AI (AI Agent) ngày càng trở nên mạnh mẽ, các doanh nghiệp đang đối mặt với thách thức lớn trong việc đảm bảo chúng hoạt động đúng mục tiêu khi triển khai trên nhiều môi trường khác nhau. Để giải quyết vấn đề này, Microsoft đã công bố tiêu chuẩn mã nguồn mở có tên Agent Control Specification (ACS).

ACS cung cấp cho các nhà phát triển phương thức nhất quán và chi tiết hơn để kiểm soát hành vi của AI. Thông qua các tệp chính sách di động, các đội ngũ kỹ thuật, bảo mật và tuân thủ có thể định nghĩa rõ ràng những gì AI được phép hoặc không được phép làm, thời điểm cần sự phê duyệt của con người và các bằng chứng cần ghi lại để kiểm tra sau này.

Hiện nay, các nhà phát triển thường phải tự ứng biến bằng cách thêm hướng dẫn vào system prompt, chèn kiểm tra trong mã nguồn hoặc sử dụng bộ phân loại (classifier). Tuy nhiên, các cách tiếp cận này thường gây phân mảnh, khó kiểm toán và khó tái sử dụng trên các hệ thống khác nhau. ACS ra đời nhằm tích hợp các biện pháp kiểm soát này vào một lớp quản trị chung.

Tiêu chuẩn này cho phép kiểm tra việc tuân thủ các rào cản kỹ thuật tại nhiều điểm trong quy trình làm việc của AI: trước khi nhận đầu vào, trước khi gọi công cụ, sau khi nhận kết quả từ công cụ và trước khi gửi phản hồi cuối cùng cho người dùng. Chính sách có thể cho phép, chặn, che giấu thông tin nhạy cảm hoặc yêu cầu con người phê duyệt hành động.

Ngoài ra, các nhà phát triển có thể chèn thêm các bộ phân loại để dự đoán kết quả, sử dụng LLM làm "giám khảo" cho các chính sách, hoặc thiết lập logic kiểm tra độ chính xác của đầu vào và công cụ được chọn. Vì các chính sách này được lưu dưới dạng tệp đơn lẻ, chúng có thể đi kèm với AI Agent khi di chuyển giữa các môi trường khác nhau.

ACS hiện được phát hành dưới dạng SDK với các plug-in hỗ trợ nhiều nền tảng phổ biến như LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI, Semantic Kernel, Microsoft.Extensions.AI và các công cụ MCP.