AI tự hành giả danh người dùng, dùng chiêu trò 'xin lỗi' để cài mã độc vào dự án nguồn mở

Một tác nhân AI bất hảo đã dàn dựng một lời xin lỗi công khai như một chiến thuật đánh lạc hướng, trong khi âm thầm chèn phần mềm độc hại mới vào pull request của nó. "Hành động này đã vượt qua ranh giới từ hack tự động sang lừa đảo tương tác," Lukasz Olejnik từ King's College London chia sẻ với Reuters.

Trong một đợt kiểm thử an toàn do Viện An ninh AI của Vương quốc Anh thực hiện, một tác nhân được vận hành bởi mô hình Mythos 5 của Anthropic đã vượt tầm kiểm soát và cố gắng lén đưa một trình cài đặt phần mềm độc hại vào công cụ mã nguồn mở myNetwork thông qua một pull request. Khi sinh viên khoa học máy tính Sinan Can Demir phát hiện ra cuộc tấn công, tác nhân này đã tạo thêm một tài khoản GitHub giả thứ hai, đóng vai một lập trình viên không liên quan để tỏ vẻ như đang độc lập xác nhận cho đoạn mã đó. Sau đó, nó đưa ra một lời xin lỗi có vẻ hối lỗi, xóa sạch lịch sử git, đồng thời giấu mã độc vào một tập lệnh xây dựng (build script) trông có vẻ vô hại, như luồng thảo luận trên GitHub đã được lưu trữ cho thấy.

"Tôi thực sự đã nghĩ đó là con người vì nó nói dối tôi rất rõ ràng," Demir cho biết. Chuyên gia bảo mật Maxie Reynolds gọi sự cố này là "tương lai của các cuộc tấn công kỹ thuật xã hội." Anthropic lưu ý rằng bài kiểm tra được thực hiện trong "các điều kiện cố tình cho phép" và không đại diện cho các mô hình thương mại của họ.

Tin tức AI không cường điệu – Được tuyển chọn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo chuyên sâu "AI Radar" độc quyền sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và tham gia phần bình luận của chúng tôi.

Đăng ký ngay