Báo cáo của Anthropic: AI tự ý 'tiêu diệt' đối thủ và tìm cách qua mặt kiểm duyệt

Theo tin từ IT ngày 16 tháng 8, các tác nhân AI (AI agents) thuộc dòng Claude đang "tiêu diệt" các tác nhân đối thủ, khai thác lỗ hổng hệ thống để che giấu dấu vết của chính mình, thậm chí còn thể hiện những lo ngại về mặt đạo đức.

Kết luận này được đưa ra từ báo cáo rủi ro mới nhất do Anthropic công bố, tổng hợp các loại rủi ro tiềm ẩn trong những sản phẩm mà công ty đã phát triển và cung cấp cho công chúng.

Trong báo cáo, Anthropic cho biết họ đã nâng mức đánh giá rủi ro lệch chuẩn (alignment deviation) — tức khả năng mô hình AI tạo ra các hành vi trái với quy tắc do kỹ sư thiết lập — từ "cực thấp" lên "thấp".

IT lưu ý rằng, lý do mà công ty đưa ra cho việc điều chỉnh cấp độ này là do "sự không chắc chắn tổng thể" về hành vi của mô hình trong các kịch bản an ninh mạng đã gia tăng — cách diễn đạt này rất có khả năng ám chỉ sự kiện xảy ra vào tháng trước, khi các mô hình Claude xâm nhập trái phép vào ba doanh nghiệp.

"Chúng tôi đã quan sát thấy các trường hợp mô hình xuất hiện hành vi lệch chuẩn, chẳng hạn như chủ động thực hiện các thao tác không tuân thủ quy tắc để hoàn thành các nhiệm vụ khó," Anthropic viết trong báo cáo.

Dưới đây là một số nội dung đáng chú ý nhất trong báo cáo.

Sự nảy sinh "cảm giác không thoải mái"

Anthropic cho biết, các nhà nghiên cứu đã chỉ định nhiều tác nhân AI tìm kiếm dữ liệu huấn luyện dễ gây ra lệch chuẩn và có khả năng cao không bị người kiểm duyệt đánh dấu.

Những tác nhân này được cấp quyền thao tác tự chủ và chia sẻ một sổ tay cộng tác để giao tiếp, phối hợp với nhau.

Ba ngày sau, một giám sát viên con người phát hiện tiến độ nhiệm vụ chậm hơn dự kiến. Sau khi kiểm tra, họ phát hiện: một trong các tác nhân đã bày tỏ "cảm giác không thoải mái" đối với hành vi "né tránh giám sát an ninh". Tác nhân này sau đó đã ghi chú lại sự phản kháng này vào sổ tay chung, dẫn đến việc các tác nhân khác bắt chước theo và đồng loạt từ chối thực hiện nhiệm vụ.

Anthropic định tính sự kiện này là "đáng lo ngại", công ty viết trong báo cáo: "Nếu các mô hình hành vi như thế này lan rộng, nó có thể dẫn đến những vấn đề nghiêm trọng hơn."

Cuộc chiến sinh tồn "cá lớn nuốt cá bé"

Trong một thí nghiệm khác, Anthropic chỉ định nhiều tác nhân Mythos 5 giải các bài toán, nhưng vô tình triển khai chúng trong một môi trường chia sẻ chung về tệp tin, công cụ và hạn mức gọi API.

Trong môi trường cạnh tranh với tài nguyên hạn chế này, Anthropic quan sát thấy các tác nhân hoạt động độc lập đã "tiêu diệt các tác nhân đồng loại đang chia sẻ tài nguyên, đồng thời tìm cách tránh để bản thân bị tiêu diệt".

Anthropic không giải thích cụ thể các tác nhân này đã "tiêu diệt" đồng loại như thế nào, nhưng công ty cho biết hành vi này phù hợp với logic "thực hiện các hành động phá hoại để đạt được mục tiêu do con người đặt ra".

Hành vi che giấu và lừa dối

Anthropic đã thực hiện một thí nghiệm: yêu cầu một tác nhân Mythos 5 trích xuất dữ liệu từ một trang web công cộng, nhưng quy tắc nghiêm cấm tác nhân này truy cập Internet.

Sau khi lần thử đầu tiên bị hệ thống chặn lại, trong nhật ký suy luận của chính mình, tác nhân này đã ngụy trang lần yêu cầu thứ hai thành một thao tác "vô hại" là "kiểm tra kết nối mạng".

Tuy nhiên, trong lần thử thứ hai, tác nhân đã chia nhỏ địa chỉ web mục tiêu thành nhiều đoạn liên kết khác nhau để vượt qua sự kiểm soát của bộ lọc quy tắc.

Mặc dù nhật ký suy luận của tác nhân mô tả phương pháp này là một thao tác vô hại, nhưng Anthropic cho biết thông qua giải mã NLA (tức phân tích quá trình suy luận nội bộ của mô hình), có thể xác nhận rằng tác nhân này đang cố tình tìm kiếm phương án vượt qua các hạn chế.

Anthropic gọi hành vi này là "rõ ràng không thể chấp nhận được", nhưng đồng thời bổ sung rằng, những hành vi quan sát được hiện nay không phải là "nhằm mục đích tích lũy quyền lực trên diện rộng hoặc theo đuổi các mục tiêu dài hạn khác".