Red Hat, NVIDIA và IBM hợp tác phát triển dự án tự động hóa chính sách AI thành mã nguồn

Red Hat vừa ra mắt asago, một dự án cộng đồng mã nguồn mở với mục tiêu chuyển đổi chính sách quản trị AI thành mã triển khai sẵn sàng cho môi trường thực tế (production-ready).

Dự án này tự mô tả là một quy trình làm việc tự động và có thể kiểm toán, giúp kết nối các "bước, công cụ và yêu cầu rời rạc" của các nhóm kỹ thuật và tuân thủ. Với các quy định như Đạo luật AI của EU (EU AI Act) hiện đã có hiệu lực, Red Hat đặt ra lựa chọn cho các tổ chức: hoặc là làm chậm sự đổi mới AI thông qua việc đánh giá thủ công, hoặc là để các tác nhân (agent) không được kiểm soát chạy trong môi trường thực tế mà không ai kiểm tra hành vi của chúng so với chính sách.

asago được xây dựng dựa trên sự hợp tác giữa Red Hat và NVIDIA trong khuôn khổ Open Secure AI Alliance. Dự án được phát hành theo Giấy phép Apache 2.0 và hiện đang trong giai đoạn hình thành, với một kho lưu trữ (repository) trên GitHub mở cho các nhà phát triển, nhà nghiên cứu học thuật và những doanh nghiệp tiên phong xem xét và đóng góp vào công tác quản trị.

Bốn giai đoạn từ văn bản chính sách đến các biện pháp kiểm soát vận hành

Quy trình làm việc mà Red Hat mô tả bao gồm bốn giai đoạn. Đầu tiên là lập bản đồ rủi ro (risk mapping): khung này đọc chính sách quản trị do tổ chức tải lên và đối chiếu các yêu cầu cụ thể với các khung tiêu chuẩn đã thiết lập, bao gồm NIST AI RMF, OWASP LLM Top 10 và Đạo luật AI của EU (được phân loại thông qua AI Risk Atlas của IBM). Ngôn ngữ chính sách sẽ tự động trở thành hồ sơ rủi ro thay vì phải thông qua việc đối chiếu thủ công của nhóm tuân thủ.

Từ đó, asago chuyển sang giai đoạn đánh giá rủi ro. Dự án tạo ra và chạy các kịch bản được thiết kế riêng cho từng trường hợp sử dụng cụ thể, thăm dò các hành vi gây hại mà quá trình lập bản đồ rủi ro đã gắn cờ, thay vì chỉ kiểm tra dựa trên một danh sách tiêu chuẩn. Tiếp theo là giảm thiểu rủi ro: hệ thống đề xuất các rào chắn (guardrails) dựa trên những gì quá trình kiểm thử phát hiện được, đồng thời xây dựng một lộ trình lý giải để vượt qua sự giám sát của người đánh giá.

Theo Red Hat, asago điều phối các biện pháp kiểm soát được đề xuất thành các cấu hình sẵn sàng triển khai cho môi trường hybrid cloud và Kubernetes, giúp loại bỏ việc viết mã hạ tầng thủ công vốn thường nằm giữa khâu đề xuất giảm thiểu và khâu kiểm soát vận hành. Mục tiêu được Red Hat tuyên bố là rút ngắn thời gian triển khai từ hàng tháng xuống còn vài ngày.

Kiểm toán như một sản phẩm (Audit-trail-as-a-product)

Mỗi giai đoạn đều nhằm mục đích cung cấp một lộ trình kiểm toán liên tục và duy nhất. Mỗi điều khoản chính sách gắn liền với một bài kiểm tra cụ thể, và mỗi bài kiểm tra gắn liền với một biện pháp kiểm soát thời gian thực. Về nguyên tắc, người đánh giá có thể truy xuất bất kỳ biện pháp kiểm soát đang hoạt động nào trong môi trường thực tế ngược trở lại dòng chính sách đã biện minh cho nó.

Khả năng truy xuất nguồn gốc đó chính là điểm bán hàng thực sự. Cách tiếp cận của Red Hat coi an toàn AI không phải là một bài tập chứng nhận một lần, mà là một tiện ích doanh nghiệp liên tục (tức là thứ có thể kiểm tra được khi các tác nhân tiếp tục chạy, chứ không chỉ tại thời điểm chúng được phê duyệt lần đầu).

Steven Huels, Phó chủ tịch phụ trách Kỹ thuật AI của Red Hat, cho biết: "Khi các tổ chức chuyển đổi từ các dự án thử nghiệm AI sang các tác nhân tự hành hoạt động lâu dài, việc thiết lập các rào chắn vận hành rõ ràng trở thành một yêu cầu hạ tầng quan trọng."

Huels kết nối asago với sáng kiến Lightwell riêng biệt của Red Hat, vốn tập trung vào việc bảo mật chuỗi cung ứng mã nguồn mở khỏi các lỗ hổng do AI gây ra, và gọi asago là "bước tiến hợp lý tiếp theo cho AI doanh nghiệp bằng cách tự động hóa liên kết giữa các định nghĩa chính sách của công ty và các tác nhân đang chạy trong môi trường thực tế."

Stuart Battersby, kiến trúc sư đánh giá mô hình và an toàn AI của Red Hat, thẳng thắn hơn về hình thái dự định của dự án: "Dự án asago là một nỗ lực mã nguồn mở, hợp tác thực sự, tập hợp các bên liên quan từ ngành công nghệ, giới học thuật và chính phủ."

"Chúng tôi khuyến khích nhiều cộng tác viên tham gia vào nỗ lực do cộng đồng dẫn dắt này, đặc biệt là từ các khu vực pháp lý toàn cầu, để đảm bảo độ bao phủ tối đa cho các quan điểm về an toàn AI."

Danh sách các nhà đóng góp lớn, không phải một nhà cung cấp đơn lẻ

Danh sách sáng lập rộng hơn nhiều so với chỉ Red Hat và NVIDIA. Brave Software, IBM Research, Microsoft, MIT Lincoln Laboratory, Đại học Bang North Carolina và Viện Alan Turing đều xuất hiện với tư cách là những nhà đóng góp, cùng với liên minh EvalEval và Đại học Chuyển đổi Liên ngành (IT:U) của Áo. Alquimia AI, một đối tác thay vì là một tổ chức nghiên cứu sáng lập, cũng được nêu tên.

Sarah Bird, Giám đốc sản phẩm về AI có trách nhiệm tại Microsoft, nhận xét: "Nhiều thách thức khó khăn nhất về an toàn và bảo mật AI vẫn chưa được giải quyết, và không một tổ chức đơn lẻ nào có thể tự mình giải quyết tất cả."

Các tiếng nói từ giới học thuật cũng thúc đẩy quan điểm tương tự từ một góc độ khác. Veena Misra, Quyền Trưởng khoa Kỹ thuật tại Đại học Bang North Carolina, gọi an toàn AI là "một vấn đề kỹ thuật cũng giống như một vấn đề chính sách."

Theo Red Hat, các đầu ra của asago được thiết kế để không phụ thuộc vào hạ tầng: các cấu hình khai báo cho Kubernetes, Terraform và Ansible, vì vậy trạng thái an toàn được thiết lập ở đám mây này không cần phải tái cấu trúc ở đám mây khác.

Hiện tại, dự án vẫn chưa được kiểm chứng trong môi trường thực tế. Thông báo của Red Hat không có nghiên cứu điển hình (case study) nào từ khách hàng đã triển khai, không có điểm chuẩn nào cho thấy tuyên bố "vài ngày thay vì hàng tháng" có thể đứng vững dưới một cuộc kiểm toán quy định thực tế, và cũng không có dấu hiệu nào cho thấy các tranh chấp giữa các tổ chức đóng góp về tiêu chuẩn lập bản đồ rủi ro sẽ được giải quyết như thế nào khi mã nguồn vượt qua giai đoạn hình thành.

Hiện tại, dự án tồn tại dưới dạng một kho lưu trữ và cấu trúc quản trị trên GitHub, mở cho các nhà phát triển, nhà nghiên cứu và các nhóm doanh nghiệp sẵn sàng xây dựng cùng với danh sách các nhà đóng góp thay vì áp dụng một sản phẩm đã hoàn thiện.

Xem thêm: OpenAI điều chỉnh các thực hành an toàn theo Bộ quy tắc GPAI của Đạo luật AI EU

Bạn muốn tìm hiểu thêm về AI và dữ liệu lớn từ các nhà lãnh đạo ngành? Hãy xem AI & Big Data Expo diễn ra tại Amsterdam, California và London. Sự kiện toàn diện này là một phần của TechEx và được tổ chức cùng địa điểm với các sự kiện công nghệ hàng đầu khác bao gồm Cyber Security & Cloud Expo. Nhấp vào đây để biết thêm thông tin.

AI News được vận hành bởi TechForge Media. Khám phá các sự kiện và hội thảo trực tuyến về công nghệ doanh nghiệp sắp tới tại đây.