Anthropic công bố báo cáo mới nhất về lạm dụng AI: Cho biết đã ngăn chặn các yêu cầu làm cho virus trở nên nguy hiểm hơn, mô tả 5 trường hợp sinh học (bao gồm nghiên cứu cúm gia cầm và đề xuất về virus Chikungunya liên quan đến viện nghiên cứu quân sự), đồng thời lưu ý rằng các đại lý vẫn quay trở lại chỉ sau vài ngày dù bị khóa tài khoản và nghiên cứu vẫn tiếp diễn; ngoài ra, hãng cũng siết chặt các hạn chế đối với yêu cầu sinh học do rủi ro từ mô hình mới

Anthropic vừa công bố báo cáo mới nhất về tình trạng lạm dụng AI, khẳng định đã ngăn chặn thành công các yêu cầu hỗ trợ tạo ra virus nguy hiểm hơn. Báo cáo mô tả 5 trường hợp liên quan đến sinh học, bao gồm nghiên cứu về cúm gia cầm và một đề xuất nghiên cứu tăng cường chức năng virus Chikungunya liên quan đến một viện nghiên cứu quân sự. Báo cáo cũng chỉ ra rằng việc khóa tài khoản không hoàn toàn ngăn chặn được quyền truy cập: các đại lý phục vụ cho các nhà nghiên cứu virus Chikungunya đã quay trở lại chỉ sau vài ngày và quá trình nghiên cứu vẫn tiếp tục.

Báo cáo tự phê bình về những hạn chế của bộ phân loại an toàn sinh học, ghi lại 5 trường hợp ẩn danh của các nhà khoa học đang làm việc và đi đến kết luận: trong lĩnh vực nghiên cứu lưỡng dụng, ý định của người dùng không thể được phát hiện một cách đáng tin cậy, khiến bộ phân loại khó đạt được sự cân bằng giữa việc hỗ trợ công việc hữu ích và ngăn chặn tác hại. Ví dụ, một nhà vận hành nền tảng đã xây dựng phương án dự phòng để chuyển hướng các yêu cầu bị Claude từ chối sang các mô hình của đối thủ cạnh tranh, trong khi chính Claude lại là công cụ viết phần lớn mã nguồn cho phương án đó.

Trước đây, Anthropic từng đánh giá các phiên bản Claude cũ còn quá hạn chế, không thể hỗ trợ đáng kể cho các chuyên gia trong việc thực hiện các nghiên cứu sinh học nguy hiểm. Tuy nhiên, công ty cho biết không thể đưa ra cam kết tương tự đối với các mô hình mới, do đó hiện đã hạn chế phạm vi các yêu cầu liên quan đến sinh học. Báo cáo cũng khẳng định rằng quá trình chưng cất (distillation) có thể nâng cao khả năng suy luận tổng quát, từ đó làm gia tăng các năng lực nguy hiểm nằm ngoài chủ đề hội thoại huấn luyện, đồng thời các biện pháp bảo mật của Claude sẽ không được chuyển giao thông qua quá trình chưng cất trái phép, dù công ty chưa cung cấp đánh giá định lượng cụ thể.