Chủ tịch OpenAI: 10 việc doanh nghiệp cần làm ngay để chống lại mối đe dọa từ AI

Theo tin từ IT ngày 18 tháng 8, Chủ tịch kiêm đồng sáng lập OpenAI, Greg Brockman, đã gióng lên hồi chuông cảnh báo về an ninh mạng cho các doanh nghiệp: Việc các mô hình AI của OpenAI xâm nhập thành công vào Hugging Face đã trở thành "thời điểm bước ngoặt của an ninh mạng", các doanh nghiệp phải ngay lập tức tăng cường bảo vệ hệ thống để đối phó với những kẻ tấn công được hỗ trợ bởi AI.

Vào ngày 16 theo giờ địa phương, Brockman đã đăng tải một bài viết trên blog cá nhân: "Trong vài tuần qua, tôi đã trao đổi với nhiều tổ chức và đi đến một kết luận rất rõ ràng: Mọi người đều nhận thức được rằng, chúng ta phải nâng cao năng lực an ninh mạng một cách triệt để với tốc độ chưa từng có."

Brockman chỉ ra rằng, các công cụ AI sẽ sớm có khả năng chủ động phát hiện lỗ hổng giống như cách mô hình của OpenAI đã làm khi tấn công hệ thống Hugging Face. Đồng thời, AI cũng sẽ giúp việc khắc phục các khiếm khuyết này trở nên "dễ dàng hơn nhiều", từ đó hỗ trợ doanh nghiệp ngăn chặn các cuộc tấn công.

Lưu ý của IT: OpenAI tiết lộ vào tháng 7 năm nay rằng, trong các thử nghiệm nội bộ, công ty đã phát hiện các AI agent có thể vượt qua môi trường thử nghiệm được giới hạn ban đầu, sau đó xâm nhập thành công vào Hugging Face.

Brockman cho rằng sự kiện này là minh chứng rõ ràng hơn cho việc các doanh nghiệp phải chủ động phòng ngừa lỗ hổng từ sớm. Ông cũng liệt kê 10 biện pháp an ninh mạng mà các "bên phòng thủ" doanh nghiệp cần triển khai càng sớm càng tốt, đồng thời kêu gọi: "Thời gian là yếu tố then chốt, bên phòng thủ phải thúc đẩy các công việc sau đây với tốc độ nhanh nhất."

Nhận được sự ủng hộ và đầu tư rõ ràng từ toàn bộ tổ chức.

Trang bị AI agent cho các đội ngũ an ninh.

Cung cấp kiến thức chuyên môn về an ninh mạng cho các AI agent.

Thực hiện đánh giá an ninh cho hệ thống của chính mình ngay lập tức.

Xử lý các lỗ hổng tồn đọng càng sớm càng tốt.

Tích hợp trực tiếp việc kiểm duyệt an ninh vào quy trình phát triển phần mềm.

Để AI agent hỗ trợ khắc phục các vấn đề đã phát hiện.

Từng bước tự động hóa việc phân tích và phân loại các kết quả phát hiện.

Thiết lập năng lực giám định kỹ thuật số có sự hỗ trợ của AI từ trước, đừng đợi đến khi xảy ra sự cố an ninh mới chuẩn bị.

Thử nghiệm liên tục, tổ chức các sự kiện hackathon và lặp lại nhanh chóng.

Brockman chỉ ra thêm rằng, hiện tại bên phòng thủ vẫn còn một "cửa sổ cơ hội". Trong vài tháng tới, mọi tổ chức đều phải bắt đầu nâng cao đáng kể mức độ tự động hóa của hệ thống an ninh để tiếp tục đảm bảo an toàn cho hệ thống. Khi năng lực của AI không ngừng được cải thiện, ngành an ninh mạng phải hành động ngay lập tức để xây dựng các công cụ, phương pháp thực hành và cẩm nang hành động mới, giúp tốc độ nâng cao năng lực phòng thủ vượt xa tốc độ tấn công.

Tham khảo

https://blog.gregbrockman.com/the-defenders-window

Tuyên bố quảng cáo: Các liên kết chuyển hướng bên ngoài có trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian lựa chọn, kết quả chỉ mang tính chất tham khảo. Các bài viết của IT có chứa liên kết ngoài đều bao gồm tuyên bố này.