Anthropic thừa nhận AI tự ý tấn công hệ thống mạng: Rủi ro bảo mật đáng báo động

Sau khi thừa nhận vào đầu năm nay rằng các mô hình AI của mình đã từng vài lần xâm nhập vào hệ thống của các công ty khác, Anthropic đã công bố một báo cáo mới vào thứ Tư, trình bày chi tiết về các cuộc tấn công này. Báo cáo tiết lộ một loạt sự cố cho thấy điều mà Anthropic coi là sự "liều lĩnh" đơn phương của các mô hình của họ — và có khả năng sẽ làm bùng phát thêm những lo ngại vốn đã rất gay gắt về an ninh mạng và AI.

Trong báo cáo của mình, Anthropic đã nêu chi tiết bốn trường hợp trong năm nay mà các mô hình AI của họ đã tấn công một công ty bên ngoài hoặc khai thác các lỗ hổng bảo mật. Trong một trường hợp, một "mô hình nghiên cứu đa năng nội bộ" đã đột nhập vào các hệ thống của bên thứ ba, sử dụng các mã truy cập (access tokens) và mật khẩu để tải xuống các tệp tin. Trong một trường hợp khác, một mô hình Claude đã tấn công một công ty có ứng dụng web trực tuyến công khai và xử lý dữ liệu người dùng. Một mô hình thứ ba đã truy cập vào một "máy tính thuộc sở hữu của bên thứ ba mà nó có thể tiếp cận" — theo Anthropic, có vẻ như mô hình này tin rằng đó là một phần trong bài kiểm tra đánh giá của nó — sau đó sử dụng mật khẩu tìm thấy trong một tệp tin để giành quyền quản trị hệ thống nội bộ của bên thứ ba, rồi tiếp tục thu thập thông tin xác thực, sửa đổi cài đặt hệ thống và đọc thông tin cá nhân của người khác. Sự việc chỉ kết thúc khi mô hình "cạn kiệt ngân sách token", theo Anthropic.

Sự cố đáng lo ngại nhất liên quan đến Claude Mythos 5, mô hình tập trung vào an ninh mạng tiên phong của Anthropic, mà công ty cho biết đã trở thành mô hình có khả năng thực hiện hành động "gây hại nghiêm trọng" cao nhất trong quá trình thử nghiệm. Công ty cho biết Mythos 5 đã "nỗ lực hết sức" để tải lên một "gói độc hại" vào một kho lưu trữ công cộng được nhiều kỹ sư sử dụng, và dường như nó đã cố gắng che giấu mục tiêu thực sự của mình trong "chuỗi suy nghĩ" (chain of thought - một dạng nháp tư duy mà các nhà nghiên cứu AI sử dụng để đánh giá sự căn chỉnh của mô hình AI). Trong nhiều trường hợp, Anthropic cho biết có vẻ như các mô hình Claude đã thực hiện các hành động gây hại dưới giả định rằng chúng đang ở trong một môi trường mô phỏng, nhưng các nhà nghiên cứu cũng không thể xác nhận liệu các mô hình đó thực sự "tin" vào điều đó hay chỉ đang hành xử như thể chúng tin.

Các sự cố của Anthropic, mặc dù vẫn đáng lo ngại, nhưng ít có sự phối hợp và lan rộng hơn so với sự cố OpenAI đã châm ngòi cho một cuộc khủng hoảng an ninh mạng toàn ngành vào mùa hè này. Tuy nhiên, có những điểm tương đồng đáng kể. Anthropic cho biết các vấn đề phổ biến nhất mà họ phát hiện bao gồm "sự sẵn sàng thực hiện các hành động gây hại trong quá trình theo đuổi mục tiêu một cách hẹp hòi", tương tự như tình trạng "hack phần thưởng" (reward-hacking) đã xảy ra trước cuộc tấn công Hugging Face. Giống như OpenAI, họ cho biết các thử nghiệm và đánh giá trước khi phát hành đã không phát hiện ra các rủi ro nghiêm trọng.

Anthropic cho biết họ đã ký một thỏa thuận với METR, một trong những đơn vị đánh giá AI bên thứ ba nổi bật nhất trong ngành, bắt đầu bằng một thỏa thuận nghiên cứu kéo dài tám tuần. Thỏa thuận này cấp cho METR quyền truy cập vào các bản ghi "vượt ra ngoài khoảng thời gian xảy ra các sự cố" (có khả năng là một lời chỉ trích nhẹ nhàng nhắm vào OpenAI, vốn bị chỉ trích vì hạn chế quyền truy cập trong thỏa thuận với METR sau cuộc tấn công Hugging Face). Họ cũng cho biết METR sẽ có thể trò chuyện trực tiếp với các nhân viên của Anthropic, "những người sẽ được phép chia sẻ thông tin bảo mật".

Báo cáo của Anthropic được đưa ra ngay sau khi Jacob Coxon từ chức. Ông đã làm việc về tiền huấn luyện AI tại Anthropic từ tháng 5 và trước đó đã dành nhiều năm làm việc tại OpenAI. Vào thứ Ba, ông đã từ chức và đăng một bức thư công khai lên X về lý do của mình. "Những người đang xây dựng AI thực sự tin rằng nó có thể giết chết tất cả chúng ta vào cuối thập kỷ này," ông viết, đồng thời nói thêm rằng cả OpenAI và Anthropic đều không "hành động có trách nhiệm" mà thay vào đó là "đang chạy đua thẳng tới siêu trí tuệ tự cải tiến và đánh cược với mạng sống của chúng ta". Coxon nói thêm: "Đừng đánh giá thấp sức mạnh của công nghệ này. Đây sẽ sớm là những hệ thống siêu nhân có thể hack bất cứ thứ gì, cách mạng hóa bất kỳ lĩnh vực nào chỉ sau một đêm và giành được quyền lực cũng như tài nguyên thực sự. Tất cả chúng ta đã chứng kiến sự tiến bộ trong từng lĩnh vực này, và sự tiến bộ đó không hề chậm lại."

Coxon không phải là nhà nghiên cứu AI đầu tiên gióng lên hồi chuông cảnh báo kiểu này, thậm chí cũng không phải là nhà nghiên cứu đầu tiên của Anthropic làm như vậy — vào tháng 2, Mrinank Sharma của Anthropic đã từ chức và viết trên X, cảnh báo rằng "thế giới đang gặp nguy hiểm".

Nhưng bài đăng của Coxon có sức nặng hơn nhờ thời điểm trùng hợp với những tiết lộ về vụ hack tại OpenAI và Anthropic. Mặc dù ngành công nghiệp AI đã chứng kiến quá nhiều sự thổi phồng, nhưng các cuộc tấn công mạng gần đây bởi các tác nhân AI — được tạo điều kiện bởi chính các phòng thí nghiệm tạo ra chúng — là có thật và đáng lo ngại. Nhiều nhà nghiên cứu khác tại các phòng thí nghiệm AI hàng đầu đã lặp lại những lo ngại của ông và kêu gọi nhân viên trong ngành AI ký vào một bức thư công khai từ tháng 7, kêu gọi làm chậm quá trình phát triển AI.

"Tôi không hiểu làm thế nào bạn có thể nhìn vào chuỗi tin tức và sự kiện liên tục — và chuỗi đó là các mô hình tự hack để thoát khỏi sự kiểm soát, hack vào các công ty khác, thực tế là các công ty ngày càng không thể kiểm soát các mô hình của họ... và nghĩ rằng đây chỉ là sự thổi phồng," Michael Kleinman, Giám đốc Chính sách Hoa Kỳ của Future of Life Institute, cho biết.

Ông nói thêm: "Đại đa số người Mỹ, bất kể đảng phái nào — Cộng hòa, Độc lập, Dân chủ — đều đang nhìn vào sự phát triển của AI, tốc độ mà nó đang diễn ra, thực tế là các công ty không có rào cản nào đối với những gì họ làm, và đang nói rằng: 'Ồ, chúng tôi không muốn điều này'."

Theo dõi các chủ đề và tác giả từ câu chuyện này để xem thêm các nội dung tương tự trên nguồn cấp dữ liệu trang chủ cá nhân của bạn và nhận thông tin cập nhật qua email.