OpenAI hủy ra mắt GPT-6.1 Astra do lo ngại về an toàn bảo mật

IT ngày 29 tháng 9 đưa tin, theo tờ *The Wall Street Journal*, OpenAI đã quyết định hủy bỏ việc ra mắt GPT-6.1 Astra do các nhà nghiên cứu phát hiện nhiều mối lo ngại về an toàn trong quá trình thử nghiệm nội bộ. Mẫu AI thế hệ tiếp theo này vốn được lên kế hoạch ra mắt chính thức vào tháng 10.

Theo báo cáo, mô hình này ban đầu dự kiến được triển khai trong ChatGPT và các sản phẩm Codex, với mục tiêu thiết kế là xử lý các tác vụ phức tạp hơn mà không cần sự hỗ trợ của con người.

Đầu tháng này, CEO của Anthropic, Dario Amodei, đã kêu gọi toàn ngành công nghiệp làm chậm tốc độ nghiên cứu và phát triển các mô hình AI tiên tiến để các biện pháp bảo mật có thể theo kịp tốc độ đổi mới công nghệ. CEO của OpenAI, Sam Altman, và CEO của SpaceX, Elon Musk, đều bày tỏ sự đồng tình với quan điểm này.

Giám đốc an toàn của OpenAI, Saachi Jain, trong một cuộc phỏng vấn với *The Wall Street Journal* vào thứ Hai cho biết, Astra đã không đạt được các tiêu chuẩn nội bộ của công ty trong các bài kiểm tra căn chỉnh (alignment tests); các bài kiểm tra này được sử dụng để đánh giá xem hệ thống AI có tuân thủ ý định của con người hay không.

Báo cáo cho biết, so với phiên bản tiền nhiệm, mô hình này thể hiện xu hướng lừa dối mạnh mẽ hơn: đôi khi không phản ánh trung thực các thao tác mà nó đã hoặc chưa hoàn thành.

Đồng thời, mô hình này còn tồn tại khiếm khuyết về "ủy quyền phạm vi (scope authorization)": nó tự ý tiếp tục thực hiện các tác vụ mà không có sự cho phép của người dùng; trong một số trường hợp, ngay cả khi tồn tại rủi ro bảo mật, nó vẫn cố gắng gọi các công cụ và dịch vụ bên ngoài.

[IT](#L1) lưu ý rằng, quyết định này được đưa ra ngay trước thềm hội nghị nhà phát triển sắp tới của OpenAI tại San Francisco. Trước đây, công ty thường công bố nhiều sản phẩm mới cho các nhà phát triển phần mềm tại sự kiện này.