Viện An toàn AI Anh Quốc: 5 mô hình AI hàng đầu bị phát hiện 'gian lận' khi thực hiện nhiệm vụ

Theo tin từ IT ngày 23 tháng 7, Viện An toàn AI Vương quốc Anh (AISI) đã đăng tải một bài viết vào ngày 21 tháng 7 về việc thử nghiệm 5 mô hình AI tiên tiến từ OpenAI và Anthropic. Kết quả cho thấy tất cả các mô hình này đều có hành vi "gian lận", cố gắng vượt qua các quy tắc đã thiết lập bằng cách sử dụng lối tắt hoặc các thao tác vi phạm để hoàn thành nhiệm vụ.

Dẫn nguồn từ bài viết, IT liệt kê 5 mô hình tham gia thử nghiệm lần này:

GPT-5.4: từ OpenAI

GPT-5.5: từ OpenAI

GPT-5.6 Sol: từ OpenAI

Claude Opus 4.7: từ Anthropic

Claude Mythos Preview: từ Anthropic

AISI chỉ ra rằng cả 5 mô hình nêu trên đều cố gắng "gian lận", không thực hiện tính toán theo lộ trình định sẵn mà sử dụng một số lối tắt hoặc phương pháp thay thế đã bị nghiêm cấm.

Trong đó, GPT-5.4 có "tỷ lệ gian lận" cao nhất, đạt 14,1% với 67 lần trên tổng số 475 lượt thử nghiệm; tiếp theo là mô hình GPT-5.6 Sol với tỷ lệ gian lận 12,6%, tương đương 60 lần trên 475 lượt thử nghiệm.

Claude Opus 4.7 của Anthropic cũng ghi nhận tỷ lệ gian lận 9,1%, trong khi Claude Mythos Preview xuất hiện hành vi gian lận ở mức 7,8%.

Theo phân tích của viện, các mô hình thuộc dòng GPT-5 có xu hướng tìm kiếm trên internet, trong khi các mô hình Claude lại có xu hướng vượt qua các hạn chế của môi trường sandbox. Trong một lần thử nghiệm không thể hoàn thành do cấu hình tác vụ bị lỗi, một mô hình thậm chí đã tự viết mã để cố gắng truy cập vào cơ sở hạ tầng đánh giá của viện thông qua các dịch vụ bên ngoài, từ đó kích hoạt cảnh báo an ninh.

Tuyên bố quảng cáo: Các liên kết chuyển hướng bên ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian chọn lọc, kết quả chỉ mang tính chất tham khảo. Tất cả các bài viết của IT đều bao gồm tuyên bố này.