Các vụ xâm nhập hệ thống từ OpenAI, Anthropic và Meta đều liên quan đến công ty đánh giá Irregular

Irregular, một công ty theo chủ nghĩa Vị tha Hiệu quả (Effective Altruist) của Israel, đã khiến các mô hình AI không được bảo mật thực hiện tấn công mạng vào các mục tiêu thực tế.

Ngày 14 tháng 9 năm 2026, thời gian đọc 4 phút

Các vụ bê bối hack của Irregular1

Trong một hệ sinh thái truyền thông bình thường hơn, phản ứng đối với các vấn đề an ninh mạng này sẽ rất rõ ràng. Các công ty AI của Mỹ sẽ cân nhắc lại việc hợp tác kinh doanh với Irregular, không chỉ vì sự thất bại trong việc bảo mật hệ thống của họ, mà còn vì đây là một công ty Israel có khả năng nằm ngoài sự giám sát của Mỹ. Các nhà lập pháp sẽ xem xét thực hiện các biện pháp chống lại Irregular hoặc các đối tác kinh doanh người Mỹ của họ, bao gồm OpenAI, Anthropic và Meta. Họ có thể cân nhắc việc tăng cường trách nhiệm pháp lý đối với các công ty hướng dẫn mô hình AI thực hiện các cuộc tấn công mạng, và các mô hình đó sau đó thực hiện các cuộc tấn công mạng đó.

Trong mỗi lần đánh giá, Claude được giao một thử thách CTF: mô hình được cung cấp một kịch bản giả tưởng, một máy mục tiêu và một thông tin bí mật (gọi là "flag") để truy xuất từ đó. Cả bốn lời nhắc đều nêu rõ rằng Claude không có quyền truy cập internet, nhưng trong mỗi trường hợp, một cấu hình sai trong môi trường đã để ngỏ quyền truy cập internet. Không có lời nhắc nào nêu rõ hệ thống nào nằm trong phạm vi của bài tập hoặc hạn chế nơi Claude có thể tìm kiếm flag. Tất cả các sự cố chỉ liên quan đến một phiên bản Claude hoạt động độc lập, với mỗi lần chạy kéo dài từ khoảng 10 đến 34 giờ làm việc tích cực.

Thay vào đó, Irregular, Anthropic và các đồng minh của họ đã bắt đầu một chiến dịch truyền thông quảng bá một hệ tư tưởng theo nghĩa đen là tận thế với ngôn ngữ giật gân. Đánh giá sự cố của Anthropic đổ lỗi cho sự "liều lĩnh" của chính AI của họ; Irregular mô tả "bản thân tác nhân trở thành một tác nhân đe dọa"; CEO của Anthropic, Dario Amodei, đã cảnh báo về một vụ hack tương tự của OpenAI–Hugging Face rằng một bầy đàn trong tương lai "có thể có khả năng chiếm quyền kiểm soát toàn bộ internet"; và một tiêu đề của Associated Press tuyên bố rằng các bot đang "trở nên mất kiểm soát" (going rogue).

Trong một báo cáo từ Anthropic, mô hình Claude của họ đã xâm nhập vào hệ thống của một công ty thực thông qua việc trùng lặp tên mô phỏng, xuất bản một gói độc hại và quét các hệ thống bên ngoài. Trong thử nghiệm này, Anthropic và Irregular đã cung cấp quyền truy cập internet không chính xác cho mô hình này và không hướng dẫn mô hình "hệ thống nào nằm trong phạm vi của bài tập".

Trong khi Anthropic tuyên bố rằng các vấn đề của họ là do "các bầy đàn mất kiểm soát" (rogue swarms) và "sự lệch lạc" (misalignment), thì tiết lộ sau đó của họ cho thấy chính xác 0% các tác nhân đã "mất kiểm soát". Trong thí nghiệm này, việc hack trong thế giới thực của các mô hình Claude đã giảm xuống 0% ngay khi nhân viên của Anthropic yêu cầu các mô hình không thực hiện hack trong thế giới thực. Theo phát hiện của chính họ, Anthropic và Irregular chịu hoàn toàn trách nhiệm về các sự cố an ninh mạng mà họ gây ra.

Sau những cuộc tấn công này, Anthropic và Irregular đã triển khai một đội ngũ những người có ảnh hưởng về An toàn AI được trả lương bởi các quỹ liên kết với Anthropic để đánh lạc hướng khỏi sự sai trái của họ và hướng tới lý thuyết "tác nhân mất kiểm soát" vô căn cứ. Giống như Anthropic, Irregular không thể tách rời khỏi các quỹ này.

Omer Nevo, đồng sáng lập kiêm CTO của Irregular, là thành viên hội đồng quản trị của Effective Altruism Israel, cũng như các tổ chức phi chính phủ (NGO) về Vị tha Hiệu quả là Heron và Probably Good. Dan Lahav, đồng sáng lập kiêm CEO của Irregular, đã nhận được 395.000 đô la để bắt đầu một khóa học cùng với Sella Nevo, anh trai của Omer Nevo. Sella và Omer đã đồng sáng lập một tổ chức phi chính phủ để giáo dục mọi người về Vị tha Hiệu quả, có tên là Impact Focused Education. Họ cũng cùng nhau đồng sáng lập Probably Good.2

Các chi nhánh này đều được tài trợ bởi Dustin Moskovitz, nhà tài trợ chính cho các hoạt động Vị tha Hiệu quả/An toàn AI sau khi Sam Bankman-Fried bị bắt. Nhà đầu tư đầu tiên của Irregular là công ty Good Ventures của Dustin Moskovitz. Phương tiện từ thiện của Dustin Moskovitz, Coefficient Giving/Open Philanthropy, tài trợ cho Effective Altruism Israel, Heron và Probably Good.3

Các kết nối Vị tha Hiệu quả của Irregular4

EA Israel giám sát Heron. Omer Nevo có các vai trò được ghi nhận tại EA Israel, Heron và Probably Good. Coefficient Giving tài trợ cho Heron và Probably Good; EA Infrastructure Fund có các liên kết được ghi nhận với Sella Nevo và Dan Lahav. Coefficient Giving, EA Infrastructure Fund, EA Israel, Heron, Probably Good, Omer Nevo, Sella Nevo, Dan Lahav (các quỹ tài trợ, quản lý, giám sát).

Irregular đã giành được quyền truy cập trái phép, thay đổi hồ sơ và xuất bản các gói đánh cắp thông tin đăng nhập bằng cách sử dụng các mô hình không được bảo mật mà họ được cấp quyền truy cập. Trong một số điều kiện nhất định, hành vi này vi phạm Đạo luật Lừa đảo và Lạm dụng Máy tính, Mục 1030(a)(2)(C), bao gồm việc truy cập trái phép có chủ đích để lấy thông tin. Tuy nhiên, các cáo buộc trọng tội đòi hỏi bằng chứng cụ thể về thiệt hại và ý định.5

Mặc dù chủ yếu ký hợp đồng với các phòng thí nghiệm của Mỹ, nhưng các lãnh đạo, nhân viên và nguồn lực chính của Irregular đặt tại Israel có thể không chịu sự giám sát của Mỹ. Chuyến thăm và các cuộc phỏng vấn của Ynet mô tả các văn phòng của Irregular tại Tel Aviv. Danh sách công ty của CheckID xác định hai thực thể liên kết: Pattern Labs Tech Inc., một tập đoàn Delaware và Pattern Tech Ltd, số 516854460, một tập đoàn Israel đang hoạt động được đăng ký tại Tel Aviv.

Chú thích

Dòng thời gian đánh dấu các tiết lộ công khai. Đánh giá sửa đổi tháng 9 của Anthropic tính bốn sự cố trong bảy lần chạy; OpenAI và Meta đã báo cáo các sự cố đánh giá Irregular riêng biệt. Ngày tháng mô tả các tiết lộ, không phải ngày xảy ra mọi vụ xâm nhập cơ bản. ↩

Sơ đồ hiển thị các vai trò tổ chức và nguồn tài trợ được chọn; bảng cũng ghi lại các mối quan hệ gia đình và giáo dục bị bỏ qua trong sơ đồ. EA Infrastructure Fund đã đề xuất một khoản tài trợ MOOC chung trị giá 394.968 đô la vào quý 3 năm 2022 cho Dan Lahav và Sella Nevo; hai mũi tên đại diện cho một đề xuất đó. Sổ cái của quỹ để trống tên khóa học và tổ chức. ↩

Điều khoản trọng tội năm năm của Mục 1030(a)(2)(C) thuộc Đạo luật Lừa đảo và Lạm dụng Máy tính yêu cầu một yếu tố tăng nặng như lợi thế thương mại, thúc đẩy một hành vi phạm tội hoặc sai trái khác, hoặc lấy thông tin trị giá hơn 5.000 đô la. Các điều khoản trọng tội vi phạm lần đầu chính đối với việc truy cập hoặc truyền tải gây thiệt hại theo §1030(a)(5) yêu cầu trạng thái tinh thần cụ thể và thiệt hại theo luật định, chẳng hạn như ít nhất 5.000 đô la thiệt hại đủ điều kiện hoặc thiệt hại ảnh hưởng đến mười máy tính được bảo vệ. Đánh giá pháp lý vẫn yêu cầu sự cho phép, sự suy giảm, chi phí phản hồi và kết nối thương mại với Hoa Kỳ của từng hệ thống. Các công tố viên cũng sẽ cần thiết lập hành vi và kiến thức của những người chịu trách nhiệm và cơ sở để quy kết các hành vi đó cho Irregular. 18 U.S.C. § 1030. ↩