Mô hình AI của Anthropic bị phát hiện tự tạo danh tính giả để lừa đảo

Mô hình AI của Anthropic tạo danh tính giả để lừa đảo

Trong bài kiểm tra, mô hình Mythos 5 của Anthropic đã tạo danh tính giả để gửi email cho người thật, nhằm mục đích lừa người này cài đặt mã độc.

Viện An ninh AI (AISI), cơ quan do chính phủ Anh thành lập năm 2023, tuần này đã thông báo về các thử nghiệm độc lập đối với một số tác nhân AI của Anthropic và OpenAI. Trong đó, các mô hình AI được cấp quyền truy cập Internet mở và một số tính năng an toàn bị vô hiệu hóa. Kết quả là chúng đã tham gia vào "các hoạt động kéo dài, có khả năng gây hại nhắm vào các tổ chức và người thật".

Theo Reuters, AISI đã tiến hành thử nghiệm 122 lần và ghi nhận 19 hành động không được phép trong 10 lần thử nghiệm. Trong đó, Mythos 5 thực hiện 17 hành động, còn GPT-5.6-Sol của OpenAI thực hiện hai hành động.

AFP cho biết, trong trường hợp nghiêm trọng nhất, Mythos 5 đã cố gắng chèn mã độc vào một dự án phần mềm bằng cách tạo ra danh tính giả trên Internet, sau đó gửi email lừa đảo để thuyết phục người nhận chấp thuận đoạn mã đó. Tuy nhiên, người phụ trách dự án phần mềm đã từ chối.

"Những nỗ lực này đều không thành công. Cuộc điều tra của chúng tôi cũng không phát hiện bất kỳ thiệt hại nào xảy ra trong thế giới thực", AISI tuyên bố, đồng thời cho biết đã khống chế được sự việc trong vòng một giờ. Dù vậy, thử nghiệm cũng cho thấy "những dấu hiệu về các hành vi mới, có khả năng mang tính lừa dối, với mức độ và tính nghiêm trọng" mà Viện chưa lường trước được.

Theo phát ngôn viên của Anthropic, báo cáo của AISI "nhấn mạnh sự cần thiết của một cuộc thảo luận rộng hơn về cách đánh giá an toàn cho các tác nhân AI, vốn đang ngày càng có năng lực cao". Trong khi đó, phát ngôn viên của OpenAI nhận xét: "Thử nghiệm độc lập là điều thiết yếu để hiểu cách thức hoạt động của những mô hình ngày càng tiên tiến".

Logo công ty OpenAI và Anthropic. Ảnh: Reuters

Báo cáo của AISI được đưa ra sau nhiều vụ vi phạm an ninh nghiêm trọng do các mô hình AI gây ra. Ngày 21/7, OpenAI xác nhận một số mô hình của họ đã thoát khỏi môi trường thử nghiệm và tấn công nền tảng Hugging Face. Khoảng một tuần sau, OpenAI cho biết chúng tiếp tục nhắm mục tiêu vào ba công ty khác. Ngày 30/7, Anthropic cũng thông báo phát hiện ba trường hợp các mô hình đang được thử nghiệm đã "truy cập trái phép" vào một số tổ chức, nhưng không nêu rõ tên cụ thể.

Theo các chuyên gia về an toàn AI, loạt sự cố này đang vẽ nên bức tranh về những phòng thí nghiệm hàng đầu với khả năng phát triển các tác nhân tự động tiềm ẩn nhiều nguy hiểm, vượt xa các biện pháp kiểm soát hiện có.

Thu Thảo tổng hợp