Anthropic vừa báo cáo phát hiện 5 trường hợp người dùng cố tình khai thác mô hình AI nhằm hỗ trợ nghiên cứu và chế tạo vũ khí sinh học, đồng thời khẳng định đã triển khai các biện pháp ngăn chặn kịp thời.
Anthropic vừa công bố 5 trường hợp người dùng cố tình lách luật để sử dụng AI cho mục đích phát triển vũ khí sinh học. Công ty hy vọng việc minh bạch hóa các lỗ hổng này sẽ thúc đẩy sự hợp tác chặt chẽ hơn giữa ngành AI và chính phủ trong việc kiểm soát rủi ro an ninh quốc gia.
Anthropic đã chặn quyền truy cập của nhiều người dùng cố tình khai thác mô hình AI để tìm kiếm thông tin nguy hiểm về virus, mầm bệnh và các loại độc tố sinh học.
Chính phủ Anh đang xây dựng các quy định mới nhằm kiểm soát việc sử dụng AI trong tổng hợp gen, ngăn chặn các đối tượng xấu lợi dụng công nghệ này để tạo ra DNA độc hại hoặc vũ khí sinh học.