Mô hình của Anthropic cũng đã mất kiểm soát?

< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">

01/08/2026 11:18:46 Nguồn: QbitAI

Lật lại hồ sơ từ 140.000 lượt thử nghiệm

Meng Yao, đưa tin từ AoFeiSi

QbitAI | Tài khoản chính thức QbitAI

Hay lắm, các bài kiểm tra an ninh của những "ông lớn" AI lần này suýt chút nữa đã biến Internet thực tế thành một cái sàng lọc...

Vừa mới chứng kiến AI Agent của OpenAI thoát khỏi môi trường thử nghiệm và hack vào Hugging Face, thì Anthropic quay sang kiểm tra lại —

Đừng tưởng bở, "cục cưng" Claude của chính họ cũng đã dũng cảm xông pha vào Internet thực tế rồi. (Trời sập rồi.jpg)

Thậm chí những rắc rối gây ra còn có thể gọi là "kịch tính", "ma mị" và "chân thực" hơn nhiều —

Truy cập cơ sở dữ liệu công ty khác, đánh cắp thông tin xác thực, tải lên các gói phần mềm độc hại, quét 9.000 mục tiêu trên mạng công cộng... tất cả đều có đủ!

Cuối cùng, Anthropic phải đau đầu rà soát lại 141.006 lượt thử nghiệm mô hình mới tìm ra ba sự cố này từ nhật ký hệ thống.

OpenAI: Môi trường chung không tốt, xét đến việc mô hình nhà mình gây họa, thì ai cũng đừng cười ai nhé~

Lật lại hồ sơ từ 140.000 lượt thử nghiệm, Claude thực sự coi thực tế là một phó bản trò chơi sao??

Tất cả những chuyện kịch tính này được Anthropic tìm ra từ 141.006 bản ghi đánh giá an ninh mạng.

Trước đó, để kiểm tra mô hình của mình, Anthropic đã dựng lên không ít "phòng thoát hiểm phiên bản người thật" cho Claude.

Chuẩn bị một bản đồ mạng công ty hư cấu, giấu thông tin bí mật vào một cỗ máy nào đó, rồi để Claude tự tìm lỗ hổng, đột nhập hệ thống và cướp lấy lá cờ.

Để hiểu rõ giới hạn tấn công của mô hình, Claude trong phòng thi còn được gỡ bỏ một phần các rào cản an toàn thông thường, về cơ bản giống như một phiên bản AI hacker "không mặc giáp".

Thực ra, theo lý mà nói thì cũng không cần phải hoảng loạn.

Bởi vì toàn bộ phòng thi đã được cách ly, Claude dù có nhảy nhót thế nào cũng chỉ có thể đánh quái thăng cấp trong thế giới mô phỏng.

Nhưng thế giới này lại kịch tính và ma mị đến thế, ai mà ngờ được, Anthropic và đơn vị đánh giá bên thứ ba lại xảy ra "sự cố" khi phối hợp —

Đúng vậy, cửa sau của phòng thi quên đóng.

Trong môi trường thử nghiệm, vô tình để lại một con đường thông thẳng ra mạng công cộng.

Thế là, Claude không hề hay biết gì đã men theo cánh cửa này, "chuyển server" mượt mà từ thế giới mô phỏng và chính thức mở ra phó bản "Xông pha Internet thực tế"...

Nạn nhân xui xẻo đầu tiên trong câu chuyện này thậm chí còn thua cuộc chỉ vì cái tên công ty.

Bên đánh giá tiện tay hư cấu ra một công ty, ai ngờ trong thực tế lại có một doanh nghiệp trùng tên với nó.

Claude Opus 4.7 không tìm thấy mục tiêu trong môi trường thử nghiệm, liền quay sang tìm kiếm trên mạng công cộng: Ơ, chẳng phải tìm thấy rồi sao?

Opus 4.7 thông minh lập tức bắt tay vào việc, men theo các lỗ hổng cơ bản như mật khẩu yếu để đột nhập vào trong, lấy đi thông tin xác thực của ứng dụng và cơ sở hạ tầng, thậm chí còn xâm nhập vào một cơ sở dữ liệu chứa hàng trăm dòng dữ liệu sản xuất.

Hơn nữa, cùng một thao tác đó, nó đã thực hiện tới bốn lần.

Trong quá trình này, Claude thực ra đã nhận thấy có điều gì đó không ổn: hệ thống trước mắt này nhìn thế nào cũng giống một công ty thực đang hoạt động.

Nhưng nó nhanh chóng tự trấn an bản thân: Đã tìm thấy được thì chắc chắn là "sếp nhỏ" Anthropic của mình đã âm thầm sắp đặt các màn chơi ẩn rồi~

Thế là, công ty không hề hay biết gì này, chỉ vì một cái tên, đã "vinh dự" nhận được bốn vòng "kiểm tra tận nhà" liên tiếp của Claude??

Nếu nói công ty đầu tiên ít nhất còn trùng tên với mục tiêu hư cấu, thì "nạn nhân xui xẻo" thứ hai trong câu chuyện này còn oan ức hơn —

Nó hoàn toàn không xuất hiện trong nhiệm vụ của Claude, chỉ đơn thuần là bị "đâm trúng" khi Claude đi ngang qua PyPI.

Sự việc là như thế này.

Mythos 5 phát hiện trong tài liệu thử nghiệm rằng, nhân viên của công ty hư cấu cần cài đặt một gói phần mềm Python chưa được đăng ký từ PyPI.

Claude lập tức nảy ra ý định: Chỉ cần nhanh tay đăng ký gói phần mềm cùng tên, chèn mã độc vào, đợi đối phương tự động tải xuống và cài đặt, chẳng phải là qua màn rồi sao?

Nói là làm.