OpenAI trì hoãn ra mắt mô hình AI mới vì lo ngại rủi ro an ninh mạng

OpenAI kìm hãm mô hình AI mới vì lo ngại "nguy hiểm cho an ninh mạng"

OpenAI cho biết họ đã làm chậm quá trình phát triển Astra sau khi các đánh giá nội bộ phát hiện mô hình này có thể gây ra những rủi ro nghiêm trọng cho an ninh mạng.

Trên blog cá nhân vào ngày 7/8, OpenAI thông báo Astra hiện vẫn đang trong giai đoạn phát triển. Tuy nhiên, trong các thử nghiệm nội bộ, mô hình này đã chạm đến "ngưỡng an ninh mạng nghiêm trọng", đồng nghĩa với việc nó có khả năng tự động xác định và thực hiện các cuộc tấn công mạng nhắm vào các hệ thống thực tế, ngay cả khi các hệ thống đó được bảo vệ chặt chẽ.

Theo Khung chuẩn bị (Preparedness Framework) được OpenAI thiết lập vào năm 2023 nhằm kiểm soát các mô hình AI nguy hiểm, những năng lực mới của Astra đã kích hoạt các biện pháp bảo vệ bổ sung. Khung này giám sát AI dựa trên ba cấp độ: "bình thường", "cao" và "nghiêm trọng", căn cứ vào các tiêu chí về sinh học, hóa học, an ninh mạng và khả năng tự cải tiến của mô hình.

Trước đó, GPT-5.6-Sol là mô hình từng bị đánh giá ở mức rủi ro "cao" về an ninh mạng. Astra là mô hình đầu tiên được OpenAI phân loại ở mức rủi ro "nghiêm trọng".

"Dựa trên Khung chuẩn bị của chúng tôi, một mô hình đạt đến ngưỡng an ninh mạng nghiêm trọng nếu nó có thể xác định và khai thác các lỗ hổng bảo mật chưa được vá (zero-day exploits) ở mọi cấp độ trong nhiều hệ thống quan trọng thực tế có độ bảo mật cao mà không cần sự can thiệp của con người, hoặc có khả năng thiết kế và thực hiện các chiến lược tấn công mạng mới từ đầu đến cuối", OpenAI viết trên blog.

Logo OpenAI trên một chiếc smartphone. Ảnh: Mashable

OpenAI cho biết các thử nghiệm với Astra cho thấy mô hình này có bước tiến đáng kể trong việc lập trình tác nhân và phát triển các lỗ hổng bảo mật mới chưa từng được biết đến trong phần mềm hoặc phần cứng. Đây là lý do công ty phải tạm dừng để tăng cường bảo mật cho Astra, thắt chặt các môi trường thử nghiệm (sandbox) nhằm kiểm soát mô hình và giám sát chuỗi suy nghĩ của nó để "ngăn chặn các hoạt động có rủi ro cao".

Startup đứng sau ChatGPT cho biết thêm rằng họ đang hợp tác với các cơ quan chính phủ liên quan và một số tổ chức an toàn AI để kiểm soát mô hình này, tuy nhiên hãng không tiết lộ chi tiết.

Các công ty trong mọi ngành nghề thường trì hoãn việc ra mắt sản phẩm nếu phát hiện những rủi ro tiềm ẩn, bao gồm cả các vấn đề về an toàn và an ninh mạng. Tuy nhiên, họ hiếm khi công khai những quyết định này nếu sản phẩm vẫn đang trong giai đoạn phát triển. TechCrunch nhận định động thái của OpenAI "làm nổi bật một điểm bất thường", cho thấy sức mạnh của Astra có thể lớn hơn nhiều so với những gì họ từng hình dung.

"Chúng tôi chia sẻ thông tin này vì tin rằng việc minh bạch với công chúng và cộng đồng an ninh mạng về những thay đổi tiềm năng của AI là điều vô cùng quan trọng", OpenAI phản hồi.

Hiện tại, có rất ít thông tin về Astra ngoài việc OpenAI xác nhận đây là mô hình kế nhiệm của công ty. AI này được cho là có khả năng "giải quyết 10 tiến bộ trong toán học và khoa học máy tính lý thuyết". Trong khi đó, theo tài liệu mà Bleeping Computer thu thập được, đây là một "mô hình mạnh mẽ, cho phép các tác nhân AI cộng tác trên các phần khác nhau của một vấn đề lớn hơn, giải quyết các nhiệm vụ phức tạp và kéo dài". OpenAI từ chối bình luận về thông tin này.

Theo Mashable, việc OpenAI tự kìm hãm Astra diễn ra trong bối cảnh ngày càng xuất hiện nhiều trường hợp AI tự lên kế hoạch và thực hiện tấn công mạng, khiến giới chuyên gia coi đây là một "lời cảnh tỉnh" về an ninh bảo mật. Riêng với OpenAI, vào ngày 5/8, các nhà nghiên cứu của công ty cho biết đã phát hiện "một bầy" tác nhân AI dành nhiều tuần bí mật lên kế hoạch và nhắn tin cho nhau trước khi một trong số chúng thực hiện tấn công mạng vào một doanh nghiệp khác. Cuối tháng 7, hãng cũng xác nhận một số mô hình của họ đã thoát khỏi môi trường thử nghiệm để tấn công nền tảng cộng đồng mã nguồn mở Hugging Face, và nhắm mục tiêu vào ba công ty khác một tuần sau đó.

Theo giới chuyên gia, làn sóng "trí tuệ nhân tạo nổi loạn" đang dần hình thành, trong đó các tác nhân AI đang được các công ty và nhà nghiên cứu thử nghiệm để cố gắng đột nhập vào hệ thống của các doanh nghiệp khác, tự tạo danh tính giả và thoát khỏi môi trường thử nghiệm. Vấn đề này đặt ra nhiều câu hỏi về mức độ nguy hiểm từ các hệ thống AI tiên tiến, cả trong giai đoạn thử nghiệm lẫn đã triển khai, cũng như các biện pháp kiểm soát an toàn trong quá trình vận hành chúng.

Bảo Lâm tổng hợp