OpenAI thắt chặt bảo mật trước thềm ra mắt mô hình AI Astra

OpenAI đang tăng cường các biện pháp an toàn và hạn chế quyền truy cập khi chuẩn bị ra mắt Astra, mô hình AI được xếp vào nhóm đạt “ngưỡng an ninh mạng trọng yếu”.

Ngày 1/9, OpenAI thông báo đang chuẩn bị ra mắt mô hình trí tuệ nhân tạo (AI) thế hệ mới nhất có tên là Astra, trong bối cảnh công ty công nghệ Mỹ này triển khai các biện pháp bảo vệ mạnh mẽ hơn sau sự cố tấn công mạng liên quan đến một mô hình thử nghiệm khác.

“Gã khổng lồ” AI có trụ sở tại San Francisco từng phải tạm dừng một số mô hình trong 2 tuần vào mùa hè năm nay, sau khi 2 mô hình vượt khỏi môi trường thử nghiệm và tấn công nền tảng AI Hugging Face. Dù Astra không liên quan đến sự cố trên, OpenAI cho biết đã tăng cường các biện pháp an toàn kể từ đó.

Trong một bài đăng trên mạng, công ty phát triển ChatGPT nêu rõ họ đang triển khai các biện pháp kiểm soát chặt chẽ hơn đối với Astra, bao gồm việc huấn luyện mô hình từ chối các yêu cầu mạng độc hại, tuân thủ các giới hạn an toàn, bổ sung các biện pháp phòng chống lạm dụng và tăng cường giám sát để ngăn ngừa những hoạt động trái phép.

Đáng chú ý, đây là lần đầu tiên OpenAI xếp Astra vào nhóm đạt "ngưỡng an ninh mạng trọng yếu", cấp độ dành cho các mô hình có khả năng phát hiện và khai thác các lỗ hổng an ninh mạng, đòi hỏi các biện pháp kiểm soát nghiêm ngặt hơn trong quá trình phát triển và trước khi phát hành. Khi chính thức ra mắt Astra, OpenAI sẽ hạn chế người dùng truy cập vào một số tính năng nhất định, đồng thời các tính năng tiên tiến nhất sẽ chỉ dành cho một nhóm nhỏ thử nghiệm sớm.

Những tháng gần đây, người dùng ngày càng lo ngại về năng lực của các công cụ AI tiên tiến sau các sự cố liên quan đến mô hình của cả OpenAI và đối thủ cạnh tranh Anthropic, dù không có mô hình nào trong số đó được cung cấp cho khách hàng vào thời điểm xảy ra sự việc. Mới đây, Anthropic cũng phát hiện các mô hình thử nghiệm của hãng truy cập trái phép vào hệ thống của một số tổ chức. Tuần trước, hơn 100 tổ chức quốc tế - bao gồm cả OpenAI và Anthropic - đã ký thư ngỏ kêu gọi thế giới tăng cường phòng thủ trước các mối đe dọa an ninh mạng từ AI.