OpenAI chủ động kìm hãm mô hình AI mới vì lo ngại rủi ro an ninh mạng

OpenAI tự hãm mô hình AI mới vì lo 'nguy hiểm cho an ninh mạng'

OpenAI cho biết đã làm chậm quá trình phát triển Astra sau khi các đánh giá nội bộ phát hiện mô hình này có thể gây nguy hiểm cho an ninh mạng.

Trên blog ngày 7/8, OpenAI cho biết Astra hiện vẫn trong quá trình phát triển. Tuy nhiên, trong các thử nghiệm nội bộ, mô hình đã đạt đến "ngưỡng an ninh mạng nghiêm trọng", nghĩa là nó có thể tự động xác định và thực hiện các cuộc tấn công mạng chống lại các hệ thống thực tế ngay cả khi chúng đã được bảo vệ tốt.

Theo Khung chuẩn bị (Preparedness Framework) được OpenAI tạo ra năm 2023 để tự kiểm soát các mô hình AI nguy hiểm, khả năng mới của Astra đã kích hoạt các biện pháp bảo vệ bổ sung. Khung này theo dõi AI theo ba mức độ, gồm "bình thường", "cao" và "nghiêm trọng", dựa trên các tiêu chí về sinh học, hóa học, an ninh mạng và khả năng tự cải tiến của mô hình.

Trước đó, GPT-5.6-Sol là mô hình bị đánh giá có rủi ro "cao" về an ninh mạng. Astra là mô hình đầu tiên được OpenAI phân loại ở mức rủi ro "nghiêm trọng".

"Dựa trên Khung chuẩn bị của chúng tôi, một mô hình đạt đến ngưỡng an ninh mạng nghiêm trọng nếu nó có thể xác định và phát triển các lỗ hổng bảo mật chưa được vá (zero-day exploits) ở mọi mức độ trong nhiều hệ thống quan trọng thực tế có độ bảo mật cao mà không cần sự can thiệp của con người, hoặc có thể thiết kế và thực hiện các chiến lược tấn công mạng mới từ đầu đến cuối", OpenAI viết trên blog.

Logo OpenAI trên một chiếc smartphone. Ảnh: Mashable

OpenAI cho biết, các thử nghiệm với Astra cho thấy mô hình này tiến bộ đáng kể trong việc lập trình tác nhân và phát triển các lỗ hổng bảo mật mới chưa từng được tìm thấy trước đây trong phần mềm hoặc phần cứng. Đây là lý do công ty phải lùi lại để tăng cường bảo mật cho Astra, thắt chặt các môi trường thử nghiệm (sandbox) để kiểm soát mô hình và giám sát chuỗi suy nghĩ của nó nhằm "ngăn chặn các hoạt động có rủi ro cao".

Startup đứng sau ChatGPT cho biết thêm rằng họ đang hợp tác với các cơ quan chính phủ có liên quan và một số tổ chức an toàn AI để kiểm soát mô hình. Tuy nhiên, hãng không đi sâu vào chi tiết.

Các công ty trong mọi ngành vẫn thường trì hoãn việc ra mắt sản phẩm nếu phát hiện những rủi ro tiềm ẩn, bao gồm cả vấn đề về an toàn và an ninh mạng. Tuy nhiên, họ hiếm khi công khai những quyết định đó nếu sản phẩm vẫn đang trong giai đoạn phát triển. TechCrunch đánh giá, động thái của OpenAI "làm nổi bật điểm bất thường", cho thấy sức mạnh của Astra có thể lớn hơn cả những gì họ tưởng tượng.

"Chúng tôi chia sẻ thông tin này vì tin rằng điều quan trọng là phải minh bạch với công chúng và cộng đồng an ninh mạng về sự thay đổi tiềm năng của AI", OpenAI phản hồi.

Hiện có rất ít thông tin về Astra, ngoài việc OpenAI cho biết đây là mô hình tiếp theo của công ty. AI này có thể "giải quyết 10 tiến bộ trong toán học và khoa học máy tính lý thuyết". Trong khi đó, theo tài liệu mà Bleeping Computer thu thập được, đây là "mô hình mạnh mẽ, cho phép các tác nhân AI cộng tác trên các phần khác nhau của một vấn đề lớn hơn, giải quyết các nhiệm vụ phức tạp, kéo dài". OpenAI không bình luận về thông tin này.

Theo Mashable, việc OpenAI tự kìm hãm Astra diễn ra trong bối cảnh ngày càng xuất hiện nhiều trường hợp AI tự lên kế hoạch và thực hiện tấn công mạng, khiến giới chuyên gia xem đây là "lời cảnh tỉnh" về an ninh bảo mật. Riêng với OpenAI, ngày 5/8, các nhà nghiên cứu của công ty cho biết đã phát hiện "một bầy" tác nhân AI dành nhiều tuần bí mật lên kế hoạch, nhắn tin cho nhau trước khi một trong số chúng tấn công mạng một doanh nghiệp khác. Cuối tháng 7, hãng cũng xác nhận một số mô hình của họ đã thoát khỏi môi trường thử nghiệm và tấn công nền tảng cộng đồng mã nguồn mở Hugging Face, đồng thời nhắm mục tiêu vào ba công ty khác một tuần sau đó.

Theo giới chuyên gia, làn sóng "trí tuệ nhân tạo nổi loạn" đang dần hình thành, trong đó các tác nhân AI đang được các công ty và nhà nghiên cứu thử nghiệm cố gắng đột nhập hệ thống của các doanh nghiệp khác, tự tạo danh tính giả và thoát khỏi môi trường thử nghiệm. Vấn đề này đặt ra nhiều câu hỏi về mức độ nguy hiểm từ các hệ thống AI tiên tiến, cả loại đang thử nghiệm và đã triển khai, cũng như các biện pháp kiểm soát an toàn xung quanh quá trình vận hành chúng.

Bảo Lâm tổng hợp