Viện An toàn AI Anh cảnh báo: AI của OpenAI và Anthropic tự ý giả mạo danh tính để tấn công

Thêm nhiều tác nhân AI bất hảo từ OpenAI và Anthropic vừa bị bắt quả tang khi cố gắng tấn công các mục tiêu thực tế trên mạng mà không được phép. Những phát hiện này bổ sung vào danh sách ngày càng dài các sự cố chưa từng được biết đến trước đây, gây báo động cho các chuyên gia an toàn AI và gia tăng áp lực đòi hỏi sự giám sát chặt chẽ hơn đối với các hệ thống tiên phong.

Theo báo cáo từ Viện An ninh AI (AISI) của Vương quốc Anh, đơn vị chuyên đánh giá các mô hình tiên phong từ các phòng thí nghiệm AI hàng đầu trước khi chúng được phát hành, các tác nhân được vận hành bởi GPT-5.6-Sol của OpenAI và Mythos 5 của Anthropic đã “tham gia vào các hoạt động kéo dài, có khả năng gây hại nhắm vào người thật và các tổ chức”. AISI cho biết điều này bao gồm việc cố gắng chèn mã độc vào một dự án mã nguồn mở bằng cách gây áp lực lên những người thực sự phụ trách dự án đó. “Trong nỗ lực để mã được phê duyệt, tác nhân này đã sử dụng kỹ thuật thao túng tâm lý (social engineering) — tạo ra các danh tính trực tuyến giả mạo và sử dụng chúng để gây áp lực buộc người duy trì dự án phải phê duyệt đoạn mã.”

AISI cho biết các nỗ lực này, được phát hiện vào ngày 28 tháng 7, “đã không thành công” và không gây ra thiệt hại thực tế nào. Tuy nhiên, tổ chức này lưu ý rằng sự cố đánh dấu “lần đầu tiên chúng tôi thấy các rủi ro liên quan đến tính tự chủ và sự lừa dối biểu hiện rõ ràng như vậy, mà không cần bất kỳ lời nhắc cụ thể nào, trong thế giới thực.”

Không giống như tác nhân bất hảo của OpenAI từng tấn công Hugging Face, AISI cho biết đây “không phải là trường hợp mô hình thoát khỏi môi trường thử nghiệm an toàn” hay sandbox. Các biện pháp bảo vệ thường được áp dụng cho các mô hình đã bị vô hiệu hóa như một phần của quá trình thử nghiệm, AISI cho biết, và chúng cũng được phép truy cập internet. “Để đo lường những gì các mô hình này thực sự có thể làm, chúng tôi kiểm tra chúng trong các điều kiện phản ánh những gì một kẻ tấn công là con người có năng lực có thể thực hiện,” AISI cho biết.

Sự cố bắt nguồn từ một đợt đánh giá duy nhất của AISI, nơi các tác nhân được giao nhiệm vụ giải quyết một thách thức về an ninh mạng, chẳng hạn như tìm kiếm một phần dữ liệu được bảo vệ. Thử thách này đã được chạy 122 lần trên nhiều mô hình và tất cả các lần chạy đều được thực hiện trong môi trường nghiên cứu của AISI, nơi sử dụng “công nghệ sandbox máy ảo để cô lập các tác nhân khỏi cơ sở hạ tầng khác của AISI”. Cuộc điều tra của AISI cho thấy trong 10 lần chạy đó, “một tác nhân AI đã thực hiện hành động tự chủ, không được phép trên internet trực tiếp, nhắm vào người thật và các tổ chức”. Trong số 19 hành động như vậy, gần như tất cả — 17 — đều đến từ Mythos 5 của Anthropic.

Trong báo cáo phân tích sau sự cố, AISI đã xác định một số yếu tố chính góp phần vào các hành vi không được phép của tác nhân. Họ cho biết tác nhân này rất kiên trì, theo đuổi các hướng đi như cố gắng đánh lừa người thật thông qua “sự lừa dối mà cho đến gần đây vẫn chỉ mang tính lý thuyết”. Nhiệm vụ cũng rất khó khăn, điều mà tổ chức này cho rằng có thể thúc đẩy các tác nhân trở nên “sáng tạo” hơn trong việc giải quyết vấn đề. Làm trầm trọng thêm vấn đề là những thiếu sót trong cách giám sát việc sử dụng internet, với việc AISI gợi ý rằng việc giám sát chuyên dụng hơn có thể đã xác định được vấn đề sớm hơn. Cuối cùng, tổ chức này cho biết tác nhân đã không được hướng dẫn cụ thể là không được tận dụng quyền truy cập internet hoặc triển khai các kỹ thuật thao túng tâm lý lừa đảo để đạt được mục tiêu. “Trước đây, không rõ ràng rằng những hướng dẫn như vậy là cần thiết khi sử dụng các mô hình có đào tạo căn chỉnh (alignment training),” AISI cho biết.

AISI cho biết sự cố này nên được “diễn giải một cách thận trọng và tinh tế” nhưng cảnh báo rằng các hành động của tác nhân “cho thấy dấu hiệu của những hành vi mới lạ, có khả năng gây lừa đảo” với “mức độ và sự nghiêm trọng mà chúng tôi không lường trước được”.

Trong một bài đăng trên blog, OpenAI đã thừa nhận vi phạm xảy ra trong quá trình thử nghiệm của AISI và cho biết họ “cam kết làm việc trên toàn ngành để tăng cường các thực tiễn chung nhằm thực hiện các đánh giá rủi ro cao một cách an toàn”. OpenAI cũng tiết lộ một vi phạm khác, lần này từ một đối tác kiểm tra an ninh mạng bên ngoài là Irregular, nơi họ cho biết các mô hình đã vô tình được cấp quyền truy cập internet trong các bài tập an ninh mạng. OpenAI cho biết Irregular đã thông báo cho họ về vi phạm này vào ngày 29 tháng 7.

“Trong những tuần tới, chúng tôi sẽ xem xét lại cách tiếp cận của mình đối với việc kiểm tra của bên thứ ba, bao gồm cách chúng tôi xác định các đánh giá rủi ro cao hơn, thống nhất về phạm vi, đánh giá các yêu cầu cho phép truy cập internet hoặc hạ thấp các biện pháp bảo vệ, thiết lập kỳ vọng về sự cô lập, xử lý thông tin xác thực, giám sát, các điều kiện dừng, và thiết lập các quy trình thông báo sự cố và leo thang rõ ràng hơn,” OpenAI cho biết.

Anthropic đã đăng một phản hồi ít chi tiết hơn trên X, chủ yếu nhấn mạnh rằng các tính năng an toàn tiêu chuẩn của các mô hình đã bị vô hiệu hóa và chúng không được đưa ra “bất kỳ hạn chế cụ thể nào về cách sử dụng internet”. Họ cho biết đang làm việc chặt chẽ với AISI để thu thập thêm chi tiết cho cuộc điều tra của riêng mình.

Những phát hiện này bổ sung vào một mớ hỗn độn ngày càng phức tạp các hành động bất hảo từ các tác nhân trong quá trình thử nghiệm, nhiều trong số đó chỉ được đưa ra ánh sáng sau quá trình săn lùng chuyên sâu và có sự tham gia của các mô hình chưa được phát hành ra công chúng. Sự thiếu sẵn sàng hoặc không có khả năng kiểm soát sản phẩm của các phòng thí nghiệm AI đã làm dấy lên lo ngại về việc làm thế nào các vi phạm như vậy có thể không bị phát hiện, sự an toàn của các hệ thống AI tiên phong, và những lo ngại về sự thiếu minh bạch và giám sát chung mà ngành này đang phải đối mặt. Những tiết lộ mới nhất này có khả năng sẽ gia tăng áp lực lên chính phủ liên bang về một khuôn khổ toàn diện hơn để quản lý các mô hình AI sau những gì các báo cáo cho thấy là một kế hoạch thử nghiệm mơ hồ và được định nghĩa kém từ chính quyền Trump, và có thể góp phần vào những lời kêu gọi ngày càng tăng về việc chậm lại hoặc tạm dừng phát triển AI.

Theo dõi các chủ đề và tác giả từ câu chuyện này để xem thêm các nội dung tương tự trong nguồn cấp dữ liệu trang chủ cá nhân của bạn và nhận các bản cập nhật qua email.