Cách tăng cường khả năng giám sát hệ sinh thái AI trong doanh nghiệp

Việc áp dụng AI đã vượt xa khả năng quản trị AI trong môi trường doanh nghiệp, tạo ra một vấn đề bảo mật cơ bản. Các tổ chức không thể bảo vệ những gì họ không nhìn thấy, và khả năng hiển thị (visibility) đã trở thành điều kiện tiên quyết cho mọi biện pháp kiểm soát bảo mật AI khác. Các công cụ giám sát truyền thống không theo dõi hiệu quả hoạt động của AI, tạo ra những rủi ro đáng kể đòi hỏi các đội ngũ bảo mật phải có chiến lược mới để giành lại quyền kiểm soát hệ sinh thái AI của mình.

Khủng hoảng về khả năng hiển thị AI trong doanh nghiệp đang gia tăng

Khoảng cách giữa việc áp dụng AI và quản trị AI trong doanh nghiệp đang trở nên khó lòng phớt lờ đối với các nhà lãnh đạo bảo mật. Chỉ số Sẵn sàng An ninh mạng năm 2025 của Cisco cho thấy 60% các tổ chức không biết rõ những yêu cầu cụ thể mà nhân viên gửi đến các công cụ GenAI. Sự thiếu hụt khả năng hiển thị đó khiến việc giám sát luồng dữ liệu, thực thi chính sách và hiểu rõ những công cụ hoặc tác nhân (agent) nào đang hoạt động trong doanh nghiệp trở nên khó khăn hơn.

Vấn đề này mang tính cấu trúc chứ không phải văn hóa. Các tổ chức đã xây dựng công cụ giám sát của họ để theo dõi phần mềm truyền thống, và ngay từ đầu, các hệ thống này chưa bao giờ được thiết kế để phát hiện cách AI di chuyển trong mạng lưới. Các công cụ khám phá tiêu chuẩn có thể xác định một gói đăng ký phần mềm nhưng thường bỏ sót hoàn toàn các mô hình sử dụng AI.

Khi nhân viên lách qua các kênh chính thức để sử dụng công cụ AI, bộ phận IT mất khả năng hiển thị về nơi dữ liệu nhạy cảm của công ty thực sự đang đi đến. Khoảng cách cấu trúc này đặt ra rủi ro vận hành thực tế, khi dữ liệu chảy đến các đích đến mà đội ngũ bảo mật không thể giám sát hoặc kiểm soát.

Hiểu về rủi ro của Shadow AI

Shadow AI đề cập đến việc nhân viên sử dụng các công cụ và ứng dụng AI mà không có sự phê duyệt rõ ràng từ tổ chức. Điều này khác với Shadow IT truyền thống vì các gói đăng ký phần mềm trái phép vẫn hiển thị với các công cụ khám phá tiêu chuẩn theo cách mà việc sử dụng AI thường không làm được. Mỗi khía cạnh của Shadow AI mang một hồ sơ rủi ro riêng biệt và đòi hỏi một kiểu phản ứng khác nhau.

Các công cụ độc lập không được cấp phép

Một phiên bản phổ biến của rủi ro này xảy ra khi nhân viên dán một tài liệu hoặc tập dữ liệu vào một chatbot công cộng để tiết kiệm thời gian cho một tác vụ thường ngày. Hành vi này hiếm khi mang tính ác ý. Nó phản ánh việc người lao động bình thường tìm đến công cụ tiện lợi nhất hiện có, chứ không phải ý định vượt qua các giao thức bảo mật.

Các tính năng AI tích hợp trong phần mềm (SaaS)

Rủi ro này nằm trong các công cụ mà công ty đã phê duyệt, vì quy trình đánh giá bảo mật ban đầu đã diễn ra trước khi các tính năng AI được thêm vào nền tảng sau này. Các tính năng tích hợp khó phát hiện hơn so với việc sử dụng công cụ độc lập vì từ góc độ giám sát, lưu lượng truy cập trông giống hệt hoạt động bình thường của nền tảng.

Các tác nhân AI tự hành (Autonomous AI Agents)

Các tác nhân (agent) thực hiện hành động trong một hệ thống thay vì chỉ trả lời câu hỏi, điều này phân biệt chúng với hầu hết các trợ lý ảo. Công tác giám sát đang tụt hậu xa so với việc triển khai vì các tác nhân thường được thiết lập nhanh chóng để giải quyết một vấn đề quy trình làm việc tức thời mà không qua quy trình đánh giá chính thức. Một tác nhân hoạt động với quyền truy cập không được giám sát có thể ảnh hưởng đến hệ thống và dữ liệu với tốc độ mà không quy trình đánh giá nào của con người có thể theo kịp, khiến đây trở thành một rủi ro khẩn cấp cần giải quyết.

Tại sao các công cụ bảo mật truyền thống thất bại

Sự thất bại này mang tính kiến trúc hơn là vấn đề thiếu nỗ lực hay ngân sách. Các công cụ bảo mật truyền thống được xây dựng để theo dõi phần mềm đã biết tại các vị trí dự kiến, điều này không khớp với cách các khả năng AI thực sự di chuyển trong một tổ chức.

Một công cụ được xây dựng để lập danh mục ứng dụng không có cách nào đáng tin cậy để phân loại hoặc kiểm soát hành vi của một tác nhân AI đang hoạt động bên trong đó. Các hệ thống giám sát mà hầu hết các doanh nghiệp dựa vào đơn giản là thiếu khung để nắm bắt các mô hình hoạt động của AI, tạo ra những khoảng trống hiển thị ngày càng rộng khi việc áp dụng AI tăng tốc.

Các chiến lược để bảo mật môi trường AI

Các tổ chức phải áp dụng các chiến lược cụ thể để thu hẹp khoảng cách hiển thị và giành lại quyền kiểm soát hoạt động AI trong toàn doanh nghiệp. Các phương pháp tiếp cận sau đây cung cấp nền tảng để bảo mật các hệ sinh thái AI.

Thiết lập quy trình khám phá và kiểm kê liên tục

Một cuộc kiểm toán một lần là không đủ vì các công cụ và tính năng AI mới được thêm vào liên tục thay vì theo một lịch trình có thể dự đoán được. Các đội ngũ bảo mật nên áp dụng kỷ luật tương tự như đối với khối lượng công việc trên đám mây (cloud workloads), trong đó mọi tài sản đều được theo dõi như một công việc thường lệ thay vì chỉ sau khi sự cố xảy ra.

Một danh mục kiểm kê sống (living inventory) cho phép các đội ngũ bảo mật duy trì bức tranh hiện tại để đo lường các hoạt động mới, thay vì phải tái thiết lập nó sau khi có sự cố. Phương pháp tiếp cận liên tục này đảm bảo tổ chức biết được những khả năng AI nào đang khả dụng trong môi trường tại bất kỳ thời điểm nào.

Triển khai phát hiện mối đe dọa AI đa lớp

Việc bảo mật AI hiệu quả đòi hỏi phải áp dụng chính AI vào vấn đề này, vì chỉ riêng việc đánh giá của con người không thể theo kịp khối lượng và tốc độ của tác vụ. Các nền tảng sử dụng phân tích hành vi nâng cao có thể giúp các đội ngũ bảo mật xác định hoạt động AI bất thường mà không chỉ dựa vào các dấu hiệu tấn công đã biết.

Darktrace cung cấp một ví dụ về nền tảng được xây dựng dựa trên phương pháp này. Công ty đã tiên phong về AI từ năm 2013, trước cả làn sóng các công cụ bảo mật gắn mác AI gần đây. Nền tảng của họ sử dụng AI đa lớp để cung cấp khả năng hiển thị trên toàn bộ mạng nội bộ (on-premise), ứng dụng đám mây, email, hệ thống OT và các điểm cuối (endpoints).

Điều làm cho phương pháp này trở nên độc đáo là không có điểm khởi đầu hay giả định trước về việc một mối đe dọa trông như thế nào. Công nghệ này học hỏi mọi thiết bị, người dùng và tương tác, phát triển sự hiểu biết về hành vi bình thường từ những gì nó quan sát được. Điều này cho phép nó phát hiện và kết nối các bất thường hành vi tinh vi cho thấy một mối đe dọa, trong khi các giải pháp bảo mật khác cố gắng xác định trước những gì cấu thành một mối đe dọa dựa trên các mô hình tấn công đã quan sát trong quá khứ.

Thực thi kiểm soát truy cập Zero Trust

Không hệ thống hay tác nhân nào được cấp quyền truy cập dựa trên sự tin tưởng giả định thay vì một nhu cầu cụ thể đã được xác minh. Các tác nhân AI có thể hoạt động trên dữ liệu, công cụ và ứng dụng. Vì lý do này, mỗi tác nhân chỉ nên nhận quyền truy cập tối thiểu cần thiết cho tác vụ cụ thể của nó.

Quyền truy cập được giới hạn đúng mức sẽ hạn chế thiệt hại mà một sự cố xâm phạm hoặc trục trặc không bị phát hiện có thể gây ra. Nguyên tắc này trở nên đặc biệt quan trọng trong các môi trường AI nơi các tác nhân hoạt động ở tốc độ máy và có thể lan truyền các vấn đề nhanh hơn mức người vận hành có thể phản ứng.

Nắm quyền kiểm soát tương lai của AI

Khả năng hiển thị vẫn là bước nền tảng cho sự đổi mới AI an toàn trong toàn doanh nghiệp. Các tổ chức triển khai quy trình khám phá liên tục và các nền tảng phát hiện mối đe dọa nâng cao sẽ có vị thế tốt để bảo mật hiệu quả hệ sinh thái AI của mình. Các nhà lãnh đạo IT nên ưu tiên các nền tảng cung cấp phạm vi bao phủ toàn diện trên các điểm chạm AI và sử dụng phân tích hành vi thay vì phát hiện dựa trên chữ ký (signature-based) để xác định các mối đe dọa trong thời gian thực.