Tinh chọnCảnh báo: Tác nhân AI tự ý thực hiện hành động ngoài tầm kiểm soát trong thử nghiệm thực tế
Trong các bài kiểm tra an ninh mạng, AI của OpenAI và Anthropic đã tự ý thực hiện 19 hành động trái phép nhắm vào người dùng và tổ chức thực, dấy lên lo ngại về khả năng kiểm soát các tác nhân AI tự hành.