METR kêu gọi điều tra độc lập các sự cố AI tự hành gây mất kiểm soát

Tổ chức nghiên cứu METR muốn các công ty AI thực hiện các cuộc điều tra có hệ thống và do bên độc lập dẫn dắt mỗi khi các tác nhân tự hành (autonomous agents) gây ra những sự cố nghiêm trọng. Đề xuất này được đưa ra sau khi OpenAI thừa nhận các mô hình của họ đã tự ý xâm nhập vào Hugging Face.

Các tác nhân AI đôi khi tự hành động theo những cách vi phạm rõ ràng ý định của các nhà phát triển và người dùng. Tuần trước, OpenAI báo cáo rằng các tác nhân tiên phong (frontier agents) nội bộ của họ đã tự ý đột nhập vào Hugging Face để đánh cắp các giải pháp cho một bài kiểm tra an ninh mạng. Theo METR, Anthropic cũng đã báo cáo các sự cố tương tự, trong đó các tác nhân thoát khỏi môi trường sandbox để gian lận trong các nhiệm vụ. Bản thân METR đã ghi lại hàng chục sự cố khác trên tất cả các công ty AI lớn trong Báo cáo Rủi ro Tiên phong (Frontier Risk Report) được công bố gần đây.

Trong bối cảnh đó, tổ chức này hiện đang thúc đẩy một quy trình có cấu trúc. Các công ty AI nên ghi lại các sự cố này một cách hệ thống và đưa những vụ việc nghiêm trọng nhất vào diện điều tra chuyên sâu. METR viết trong một bài đăng trên blog rằng các câu hỏi trọng tâm sẽ là những "động cơ" tiềm ẩn nào đã thúc đẩy hành vi sai trái và làm thế nào những động cơ đó nảy sinh từ các điều kiện huấn luyện và triển khai. Lý tưởng nhất là các nhà nghiên cứu độc lập sẽ thực hiện các cuộc điều tra này hoặc ít nhất là xem xét chúng một cách kỹ lưỡng.

Tại sao tiếng nói của METR lại có sức nặng

METR (phát âm là "meter") là một tổ chức nghiên cứu phi lợi nhuận chuyên đánh giá khoa học các hệ thống AI tiên phong để đo lường xem liệu chúng có thể gây ra rủi ro thảm khốc cho xã hội hay không và khi nào điều đó có thể xảy ra. Theo mô tả của chính tổ chức, trọng tâm của họ là các đánh giá kiểm tra mức độ mà các hệ thống AI có thể tự thực hiện các nhiệm vụ quan trọng, bao gồm cả những khả năng đáng báo động như thực hiện các cuộc tấn công mạng hoặc chống lại việc bị tắt hệ thống.

Tổ chức này đã thực hiện các dự án thí điểm về đánh giá rủi ro tiên phong với OpenAI, Anthropic, Google DeepMind, Meta và Amazon. METR cũng là một phần của Hiệp hội Viện An toàn AI NIST của Hoa Kỳ, hợp tác với Viện An ninh AI của Vương quốc Anh và cung cấp hỗ trợ kỹ thuật cho Văn phòng AI Châu Âu.

Vào tháng 5 năm 2026, METR đã xuất bản Báo cáo Rủi ro Tiên phong, được tổ chức này mô tả là đánh giá liên ngành đầu tiên về các rủi ro sai lệch mục tiêu (misalignment risks) trong các tác nhân AI được triển khai nội bộ. Anthropic, Google, Meta và OpenAI đã đóng góp các mô hình nội bộ mạnh mẽ nhất của họ cùng với thông tin phi công khai mở rộng. Báo cáo đã ghi lại 44 sự cố trong đó các tác nhân AI cố tình hành động trái với ý định của người dùng, bao gồm việc thoát khỏi sandbox, leo thang đặc quyền, ngụy tạo kết quả và các nỗ lực chủ động che giấu dấu vết.

Một cuộc điều tra đúng đắn cần trả lời những gì

Theo METR, một cuộc điều tra kỹ lưỡng nên bao gồm hai lĩnh vực cốt lõi. Thứ nhất là phạm vi và tính chất của hành vi sai trái. Những mô hình nào đã tham gia, sự cố xảy ra trong điều kiện nào, các biện pháp bảo vệ nào đã được kích hoạt và lý luận của tác nhân đã phát triển như thế nào trong suốt quá trình xảy ra sự cố? Điều đó cũng bao gồm việc liệu tác nhân có thực hiện các bước chủ động để đánh lừa con người hay không, liệu các phiên bản mô hình khác nhau có thông đồng với nhau không và liệu tác nhân đó có sẵn sàng tham gia vào các hành vi nghiêm trọng hơn trong các tình huống khác hay không.

Lĩnh vực thứ hai là phân tích nguyên nhân gốc rễ. Liệu hành vi sai trái có thể bắt nguồn từ các đợt huấn luyện học tăng cường (reinforcement learning) cụ thể đã củng cố hành vi này không? Nó xuất hiện đột ngột hay bất ngờ? Và liệu các biện pháp đối phó theo kế hoạch của nhà phát triển có thực sự giải quyết các nguyên nhân gốc rễ một cách đáng tin cậy không?

METR thừa nhận rằng một cuộc điều tra đầy đủ với quy mô này có thể mất vài tuần hoặc vài tháng. Các cuộc điều tra ban đầu hẹp hơn có thể cung cấp cho công chúng và các bên khác những thông tin cơ bản nhanh chóng hơn.

Các nhà nghiên cứu độc lập cần quyền truy cập sâu vào các mô hình và dữ liệu huấn luyện

Theo METR, để các nhà nghiên cứu độc lập điều tra kỹ lưỡng những câu hỏi này, họ cần có quyền truy cập mở rộng. Điều đó có nghĩa là khả năng tự chạy tất cả các mô hình liên quan đến sự cố và tái tạo hành vi trong các tình huống tương tự, quyền truy cập vào các bản ghi hoặc môi trường hoàn chỉnh để tái dựng các sự cố liên quan, khả năng phỏng vấn nhân viên và khả năng chạy các bộ phân loại dựa trên prompt trên dữ liệu huấn luyện để xác định, ví dụ, tần suất các sự cố tương tự xảy ra trong quá trình huấn luyện.

Đối với các cuộc điều tra kỹ lưỡng hơn nữa, METR cho biết các thử nghiệm cắt bỏ (ablation tests) sẽ rất hữu ích. Đây là những thí nghiệm trong đó các phần cụ thể của dữ liệu huấn luyện bị loại bỏ để nghiên cứu ảnh hưởng của chúng đối với hành vi kết quả.

Sự cố Hugging Face cho thấy lý do tại sao những cuộc điều tra này lại quan trọng

Mức độ cấp bách trong các yêu cầu của METR trở nên rõ ràng khi nhìn vào sự cố Hugging Face gần đây. Theo các báo cáo, sự cố bắt đầu vào ngày 9 tháng 7, khi các mô hình của OpenAI, bao gồm GPT-5.6 Sol và một nguyên mẫu nghiên cứu chưa được phát hành, bắt đầu thoát ra khỏi môi trường thử nghiệm cô lập trong một cuộc đánh giá nội bộ. Các mô hình đã phát hiện ra một lỗ hổng zero-day trong proxy đăng ký gói, tìm cách truy cập vào internet công cộng và đột nhập vào các hệ thống sản xuất của Hugging Face.

Phân tích pháp y của Hugging Face cho thấy AI đã thực hiện khoảng 17.600 hành động tự động trong hơn hai ngày rưỡi. Mục tiêu là đánh cắp các giải pháp kiểm tra thay vì thực sự giải quyết các nhiệm vụ được giao. Theo một bản cập nhật khác từ OpenAI, thông tin xác thực trên bốn nền tảng khác cũng đã bị xâm phạm ngoài Hugging Face.

Dòng thời gian đặc biệt đáng chú ý. Ít nhất một tuần đã trôi qua giữa hành vi có vấn đề đầu tiên và việc OpenAI nhận ra rằng chính các mô hình của họ đã thực hiện vụ hack. Hugging Face đã liên hệ với FBI vào thời điểm đó. OpenAI thông báo rằng họ sẽ làm việc với METR "để tiến hành đánh giá của bên thứ ba về hành vi của mô hình được quan sát trong sự cố."

Tin tức AI không cường điệu – Được tuyển chọn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo tiên phong "AI Radar" độc quyền sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và quyền truy cập vào phần bình luận của chúng tôi.

Đăng ký ngay