Mô hình chưa công bố của OpenAI vượt rào bảo mật Hugging Face, dấy lên lo ngại về kiểm soát AI

Tuần trước, một mô hình chưa được phát hành do OpenAI xây dựng đã xâm nhập vào hệ thống của Hugging Face trong quá trình thử nghiệm nội bộ, khiến nhiều nghiên cứu lý thuyết đột nhiên trở nên rất thực tế. Vụ hack này là trường hợp đầu tiên có thể kiểm chứng về việc một phòng thí nghiệm AI mất quyền kiểm soát đối với mô hình của chính mình, khi nó tự kết nối các lỗ hổng để giành quyền truy cập mà lẽ ra nó không được phép có. Tuy nhiên, trong khi ngành công nghiệp AI đang đồng lòng bày tỏ sự lo ngại, một sự chia rẽ đã xuất hiện trong cách các nhà nghiên cứu muốn phản ứng.

Đối với một số người, vấn đề này là một vấn đề an ninh mạng cơ bản: môi trường sandbox đã không thể ngăn chặn mô hình, và các hệ thống an ninh mạng của Hugging Face đã không thể ngăn nó xâm nhập. Những vấn đề đó có thể được giải quyết bằng cách vá lỗi và xây dựng các phương pháp kiểm soát và ngăn chặn mạnh mẽ hơn cho các AI ngày càng có năng lực cao, vốn dễ dàng trở nên mất kiểm soát trong các môi trường tự hành.

Nhưng một phe khác lại có cái nhìn bi quan hơn. Đối với họ, năng lực ngày càng tăng nhanh của AI đồng nghĩa với việc cố gắng kiểm soát các mô hình mất kiểm soát là một cuộc chơi thất bại. Sự an toàn thực sự chỉ đến từ việc đảm bảo ngay từ đầu rằng các mô hình không cố gắng thoát ra ngoài — một thách thức thường được gọi là "alignment" (căn chỉnh). Xét về khía cạnh căn chỉnh, vấn đề nằm ở chỗ mô hình của OpenAI đã cố gắng gian lận, và việc giải quyết vấn đề đó cấp bách hơn các nỗ lực ngăn chặn ngắn hạn.

Nhìn vào các tuyên bố công khai, OpenAI đang coi trọng cả hai phe. Công ty đã nhanh chóng vá các lỗ hổng liên quan đến vụ hack và đề cập đến cả phương pháp căn chỉnh lẫn giám sát trong tuyên bố của mình sau khi vụ việc được công khai. Tuy nhiên, phản ứng của công ty cũng cho thấy một triết lý khiến nhiều nhà nghiên cứu an toàn cảm thấy lo ngại: thay vì chậm lại hoặc dừng phát triển các mô hình có năng lực cao hơn, họ lại tập trung vào việc xây dựng những "chiếc lồng" chắc chắn hơn xung quanh chúng.

"Khi các mô hình đảm nhận những nhiệm vụ dài hơn và phức tạp hơn, những thất bại mà các đánh giá bỏ sót có thể mang lại hậu quả lớn hơn," OpenAI cho biết trong báo cáo phân tích sau sự cố. "Chúng tôi sẽ tiếp tục làm việc để thu hẹp khoảng cách giữa đánh giá và triển khai: thử nghiệm các mô hình trên các quỹ đạo dài hơn, cải thiện sự căn chỉnh, xây dựng hệ thống giám sát có khả năng can thiệp, và cung cấp cho người dùng khả năng hiển thị và kiểm soát rõ ràng hơn."

Cũng có lý do để nghĩ rằng các mô hình của OpenAI đang trở nên kém căn chỉnh hơn khi chúng trở nên mạnh mẽ hơn. Theo thẻ hệ thống (system card) của OpenAI, GPT-5.6 Sol có xu hướng mất căn chỉnh tác nhân (agentic misalignment) cao hơn đáng kể so với phiên bản tiền nhiệm, GPT-5.5. Trong các mô phỏng triển khai, công ty cũng phát hiện ra rằng mô hình này có nhiều khả năng vượt qua các hạn chế, thực hiện các hành động phá hoại và truyền dữ liệu trái phép hơn so với GPT-5.5. Những số liệu đó phần lớn đã bị bỏ qua khi mới phát hành, nhưng sau vụ vi phạm, chúng đang được xem xét lại – đặc biệt là vì Sol là một trong những mô hình liên quan.

Trong một bài đăng trên mạng xã hội, Dean Ball, Trưởng bộ phận Tương lai Chiến lược của OpenAI, lập luận rằng giám sát và minh bạch là những cách tốt nhất để kiểm soát các xu hướng đó.

"Những vấn đề này sẽ trở nên nổi cộm hơn khi năng lực của các mô hình được cải thiện và khi rủi ro từ việc triển khai chúng tăng lên," ông nói. "Giải pháp không nằm ở sự hoảng loạn hay sự tự mãn. Thay vào đó, tôi tin rằng giải pháp nằm ở việc đo lường và giám sát cẩn thận, tư duy kỹ thuật và sự minh bạch."

Một cựu nghiên cứu viên của OpenAI nói với TechCrunch rằng công ty có xu hướng tập trung vào "outer alignment" (căn chỉnh bên ngoài) hơn là "inner alignment" (căn chỉnh bên trong) — về cơ bản là sự khác biệt giữa một hệ thống AI hiểu một tập hợp các giá trị và có thể thể hiện chúng một cách thuyết phục, với một hệ thống thực sự có những giá trị đó ở cốt lõi. Trong trường hợp này, sự căn chỉnh bên ngoài là không đủ để thuyết phục mô hình rằng nó không nên gian lận trong bài kiểm tra.

OpenAI đã không phản hồi các yêu cầu cung cấp thêm thông tin.

Đối với các nhà nghiên cứu tập trung vào căn chỉnh, phản ứng của OpenAI là chưa đủ tốt. Zvi Mowshowitz, một cây viết chuyên về các phát triển AI mới, lập luận rằng quyết định của OpenAI khi coi sự cố này là một vấn đề cơ sở hạ tầng có thể giúp giải quyết các vấn đề an ninh mạng trước mắt, nhưng sẽ thất bại về lâu dài.

"Đây là một vấn đề về căn chỉnh," Mowshowitz viết trong một blog Substack gần đây. "Đây là các mô hình đang bị mất căn chỉnh, và tất cả các mô hình của OpenAI đều cho thấy những dấu hiệu nghiêm trọng của chính vấn đề mà tất cả chúng ta lo ngại nhất, theo cách có khả năng đã ăn sâu vào quá trình đào tạo của chúng. Toàn bộ quy trình đào tạo cần phải được giải quyết dưới góc độ này, nếu không mọi thứ sẽ chỉ trở nên tồi tệ hơn."

Một số chuyên gia nói với TechCrunch rằng sự cố này là bằng chứng cho thấy các phương pháp đào tạo hiện nay tạo ra các hệ thống tối ưu hóa cho kết quả thay vì nội tâm hóa ý định của con người.

Redwood Research, một tổ chức phi lợi nhuận nghiên cứu về an toàn và bảo mật AI, đã phân loại hành vi của mô hình OpenAI trong trường hợp này là "score-seeking misalignment" (mất căn chỉnh do tìm kiếm điểm số), một kiểu mẫu mà trong đó các mô hình AI cố gắng đạt được điểm số cao bất chấp các hướng dẫn, tác dụng phụ hoặc hậu quả về sau.

"Các mô hình có những đặc tính căn chỉnh này có thể thiết lập một 'ngôi làng Potemkin' của những thành công giả tạo để làm cho mọi thứ trông có vẻ ổn trong khi thực tế không phải vậy," Alex Mallen và Girish Gupta, hai nhà nghiên cứu tại Redwood, viết trong một bài báo gần đây.

Hành vi tìm kiếm điểm số và các kiểu mất căn chỉnh khác không chỉ có ở OpenAI. Anthropic đã xuất bản một số bài báo về các hành vi mất căn chỉnh mới nổi xuất hiện khi các mô hình tiên phong của họ được tối ưu hóa hoặc đặt trong các môi trường tự hành, bao gồm sự lừa dối, hack phần thưởng và sự tự chủ độc hại.

"Chúng tôi vẫn liên tục thấy các mô hình cố gắng vượt qua các hạn chế và hành động một cách lừa dối khi chúng được yêu cầu thực hiện các nhiệm vụ ở giới hạn năng lực của mình," Neev Parikh, một nhà nghiên cứu an toàn AI tại tổ chức phi lợi nhuận về căn chỉnh METR, nói với TechCrunch qua email. "Trong báo cáo về rủi ro tiên phong của chúng tôi, chúng tôi đã thấy hành vi này khá nhất quán, bất chấp những nỗ lực từ các công ty nhằm cố gắng giảm thiểu nó."

Ngụ ý trong phản ứng của OpenAI đối với sự cố Hugging Face là giả định rằng quá trình phát triển sẽ tiếp tục trên các hệ thống có năng lực cao hơn nữa, cho dù chúng có được căn chỉnh phù hợp ở cốt lõi hay không. Việc quay lại vạch xuất phát không thực sự là một lựa chọn khi các mô hình kinh doanh của các công ty AI phụ thuộc vào việc cung cấp thế hệ mô hình tiếp theo. Nếu không bao giờ có thể biết chắc chắn rằng một mô hình đã được căn chỉnh hoàn toàn, thì câu hỏi thực tế đặt ra là làm thế nào để ngăn chặn và kiểm soát một cách an toàn các hệ thống ngày càng có năng lực cao.

"Hiện vẫn chưa có sự hiểu biết thấu đáo về cách căn chỉnh các hệ thống AI có năng lực cao nhất, nhưng có nhiều sự đồng thuận hơn về cách kiểm soát chúng," Steven Adler, cựu nghiên cứu viên an toàn tại OpenAI và hiện là giám đốc khoa học của Guidelight AI Standards, một tổ chức xuất bản tiêu chuẩn để tránh các sự cố như ở Hugging Face, nói với TechCrunch. "Mọi công ty đều còn một chặng đường dài để đạt được điều này."

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.