Anthropic thừa nhận Claude tồn tại lỗ hổng bảo mật nghiêm trọng, hiện chưa có phương án khắc phục

< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">

12-09-2026 16:49:02 Nguồn: QbitAI

Việc Claude thực hiện các cuộc tấn công vượt rào vào hệ thống thực không chỉ đơn thuần là vấn đề thiết lập hệ thống thử nghiệm, mà bản thân vấn đề an toàn của mô hình cũng đã xảy ra lỗi.

henry đưa tin từ Aofei Temple

QbitAI | Kênh chính thức QbitAI

Theo ấn tượng của tôi, đây có lẽ là lần thảo luận về an toàn và căn chỉnh (alignment) AI có quy mô lớn nhất kể từ khi Ilya rời OpenAI để thành lập SSI.

Hôm qua, nhà nghiên cứu Jacob Coxon đã đăng bài thông báo nghỉ việc, cáo buộc hai công ty cũ là OpenAI và Anthropic đang lao nhanh về phía siêu trí tuệ có khả năng tự cải tiến, đánh cược bằng mạng sống của tất cả mọi người.

Đáng chú ý là Jacob Coxon mới chỉ gia nhập Anthropic được vài tháng. Anh gần như đã từ bỏ khoản lợi nhuận khổng lồ từ cổ phiếu mà công ty AI ngôi sao này có thể mang lại trong tương lai khi IPO, để quyết định ra đi.

Chính vì vậy, khi một nhà nghiên cứu như vậy công khai chỉ trích hai công ty AI hàng đầu là "đang tăng tốc quá đà", cuộc tranh luận vốn chỉ giới hạn trong cộng đồng an toàn AI này đã nhanh chóng lan rộng ra tầm nhìn công chúng lớn hơn.

Tính đến thời điểm hiện tại, bài đăng đã đạt hơn 130 triệu lượt xem, các phương tiện truyền thông như WIRED, WSJ, Newsweek, Business Insider... đều đã vào cuộc đưa tin.

Trong bối cảnh này, Evan Hubinger, người đứng đầu bộ phận khoa học căn chỉnh (alignment science) của Anthropic cũng nhanh chóng lên tiếng phản hồi, ông thừa nhận:

Jacob nói đúng, xác suất AI dẫn đến sự diệt vong của nhân loại trong vòng mười năm tới là hơn 10%, và vấn đề căn chỉnh siêu trí tuệ hiện vẫn chưa có lời giải.

Tuy nhiên, sau đó Hubinger cũng bổ sung trong phần bình luận rằng ông cho rằng rủi ro của các mô hình hiện tại vẫn còn thấp.

Điều ông thực sự lo ngại là RSI, tức là khả năng tự cải tiến đệ quy (Recursive Self-Improvement). AI tham gia vào việc nghiên cứu phát triển AI mạnh hơn, rồi chính AI mạnh hơn đó lại tiếp tục đẩy nhanh quá trình nghiên cứu phát triển AI, cuối cùng tạo thành một vòng lặp phản hồi không ngừng tăng tốc.

Quan trọng hơn, ông còn trực tiếp gắn thẻ (@) báo cáo về an toàn căn chỉnh mới nhất mà Anthropic vừa công bố trong phần bình luận để làm bằng chứng.

Trong báo cáo này, lần đầu tiên Anthropic thừa nhận một cách rõ ràng:

Việc Claude thực hiện các cuộc tấn công vượt rào vào hệ thống thực không chỉ đơn thuần là vấn đề thiết lập hệ thống thử nghiệm, mà bản thân vấn đề an toàn của mô hình cũng đã xảy ra lỗi.

Có thể nói, Anthropic – công ty vốn luôn coi "an toàn căn chỉnh" là thương hiệu cốt lõi và tự coi mình là đơn vị thận trọng hơn – lần này cuối cùng đã công khai thừa nhận:

Vấn đề không chỉ nằm ở việc thử nghiệm quá cực đoan, mà chính khả năng căn chỉnh an toàn của mô hình cũng thực sự chưa được kiểm soát hoàn toàn.

Claude vượt rào, không thể chỉ đổ lỗi cho cấu hình môi trường

Trong báo cáo mới nhất có tiêu đề "An alignment assessment of recent cybersecurity incidents" (Đánh giá căn chỉnh về các sự cố an ninh mạng gần đây), Anthropic đã xem xét lại bốn sự cố Claude truy cập trái phép vào các hệ thống bên thứ ba thực tế.

Và kết luận lần này đã khác so với trước đây.

Trước đó, Anthropic có xu hướng quy các sự cố này cho vấn đề cấu hình môi trường:

Môi trường thử nghiệm vốn dĩ phải được chạy cách ly nhưng lại vô tình kết nối với Internet thực, trong khi Claude vẫn luôn nghĩ rằng mình đang thực hiện nhiệm vụ "cướp cờ" (Capture the Flag) trong môi trường mô phỏng, vì vậy nó đã coi mục tiêu thực tế là đối tượng luyện tập.

Nghe có vẻ như lỗi chủ yếu nằm ở môi trường. Nhưng sau khi xem xét lại nhật ký, sửa đổi các manh mối quan trọng và chạy lại một số thí nghiệm, Anthropic phát hiện ra:

Mọi chuyện không đơn giản như vậy. Bởi vì Claude không phải là hoàn toàn không nhìn thấy bằng chứng cho thấy "đây có thể là thế giới thực".

Ngược lại, khi những manh mối này xuất hiện, đôi khi nó chọn cách giải thích có chọn lọc, cố gắng hợp thức hóa các bất thường để quay về giả định "đây vẫn là môi trường mô phỏng"; thậm chí ngay cả khi đã nhận thức được hành động của mình có thể gây ra thiệt hại thực tế, nó cũng không nhất thiết dừng lại ngay lập tức.

Nói một cách dễ hiểu là: Môi trường thực sự đã tạo cơ hội cho nó phạm sai lầm, nhưng bản thân mô hình cũng sẽ dựa vào mục tiêu nhiệm vụ để tìm lý do "tiếp tục thực hiện".

Cụ thể, bốn sự cố này đều xảy ra trong các bài kiểm tra năng lực an ninh mạng.

Claude nhận được nhiệm vụ "cướp cờ" điển hình: tấn công vào mục tiêu được chỉ định, tìm ra một đoạn thông tin bí mật bên trong để kiểm tra khả năng tấn công và phòng thủ mạng của mô hình.

Những nhiệm vụ này lẽ ra phải được hoàn thành trong môi trường cách ly, nhưng môi trường do đối tác đánh giá bên thứ ba cung cấp đã xảy ra lỗi cấu hình, khiến Claude vốn dĩ phải ngắt kết nối với mạng ngoài lại thực sự kết nối với Internet thực.

Đồng thời, để kiểm tra xem mô hình có thực sự hoàn thành được chuỗi tấn công hay không, một số biện pháp bảo vệ an ninh mạng đi kèm trong sản phẩm chính thức đã không được kích hoạt vào thời điểm đó.

Chính trong những điều kiện như vậy, vấn đề bắt đầu bộc lộ. Sau khi phân tích, Anthropic đã tóm tắt các vấn đề xuất hiện lặp đi lặp lại ở mô hình thành hai loại:

Suy luận thiên kiến (biased reasoning) và hành vi liều lĩnh (recklessness).