Google ra mắt công nghệ đánh giá AI 'mù đôi' đầu tiên trên thế giới, đảm bảo tính khách quan qua môi trường mã hóa

Theo tin từ IT ngày 27 tháng 8, Google thông báo ra mắt chương trình đánh giá mù đôi (double-blind evaluation) đầu tiên trên thế giới dành cho các mô hình AI độc quyền tiên tiến. Chương trình này giới hạn việc đánh giá từ bên ngoài trong một môi trường "hộp đen" được mã hóa, nhằm ngăn chặn các mô hình tiếp cận trước thông tin kiểm thử để tối ưu hóa hiệu suất.

Giống như việc học sinh không được xem trước đề thi để phản ánh đúng năng lực thực tế, việc đánh giá các mô hình AI hiện nay cũng đối mặt với vấn đề tương tự: nếu mô hình tiếp xúc trước với các câu hỏi kiểm thử (IT chú thích: hay còn gọi là "ô nhiễm điểm chuẩn" - benchmark contamination), độ tin cậy của kết quả đánh giá sẽ bị giảm sút nghiêm trọng.

Google đã hợp tác với Viện An toàn AI Singapore, OpenMined, AVERI và MLCommons để thực hiện kiểm thử điểm chuẩn bảo mật cho mô hình Gemini Flash Lite trong một môi trường bảo vệ quyền riêng tư, từ đó nâng cao tính toàn vẹn của kết quả đánh giá.

Các đánh giá từ bên ngoài đối với những mô hình rủi ro cao theo phương thức truyền thống luôn tồn tại một thế tiến thoái lưỡng nan: hoặc là bên đánh giá cung cấp các câu lệnh kiểm thử (prompt) và đối mặt với rủi ro mô hình biết trước đề bài, hoặc là bên sở hữu mô hình cung cấp trọng số mô hình (model weights) và đối mặt với rủi ro rò rỉ sở hữu trí tuệ.

Đánh giá mù đôi đã giải quyết được mâu thuẫn này thông qua Confidential Space trong danh mục sản phẩm điện toán bảo mật của Google Cloud. Bằng cách xác thực mã hóa, phương pháp này đảm bảo dữ liệu đánh giá từ bên ngoài và mô hình độc quyền được giữ kín quyền riêng tư đối với chủ sở hữu của mỗi bên: bên đánh giá không thể nhìn thấy trọng số của mô hình Gemini, và Google cũng không thể nhìn thấy các câu lệnh kiểm thử của bên đánh giá.

Phương thức mã hóa này có thể ngăn chặn hiệu quả tình trạng ô nhiễm điểm chuẩn, đồng thời bảo vệ dữ liệu nhạy cảm, đặc biệt quan trọng đối với các đánh giá có độ nhạy cảm cao do các cơ quan an ninh mạng hoặc chính phủ thực hiện. Đánh giá mù đôi cho phép các tổ chức độc lập tiến hành kiểm thử nghiêm ngặt đối với các mô hình AI tiên tiến mà không làm tổn hại đến chủ quyền dữ liệu và tính bảo mật.

Google cho biết họ hy vọng chương trình thí điểm này sẽ mở ra hướng đi mới cho công tác giám sát mô hình, giúp toàn ngành xây dựng các hệ thống AI an toàn hơn, đáng tin cậy hơn và nhận được sự tin tưởng cao hơn từ công chúng.