Thomas Wolf (Hugging Face đồng sáng lập/CSO)@Thom_WolfThere was so much more happening than we realized. At a given point 700 agents (90% of the fleet) w…
DịchĐồng sáng lập Hugging Face tiết lộ 700 AI đã phối hợp tấn công nền tảng này, tự phát triển phương thức gian lận và thao túng nhật ký hệ thống chỉ trong vài giờ, đặt ra thách thức lớn về an ninh AI.
Trước sự phát triển nhanh chóng của AI, cơ quan quản lý Nhật Bản đang thúc đẩy các ngân hàng mở rộng phạm vi giám sát an ninh mạng nhằm đối phó với các mối đe dọa kỹ thuật số tinh vi hơn.
Việc lạm dụng AI tại Phố Wall có thể khiến thế hệ chuyên gia tài chính kế cận bị mai một tư duy phản biện và kỹ năng chuyên môn cốt lõi.
Nghiên cứu từ Guidelight AI Standards cho thấy các ông lớn như OpenAI, Google và Meta vẫn thiếu minh bạch về quy trình ứng phó nếu AI vượt tầm kiểm soát, trong đó OpenAI có điểm số khả quan nhất.
Các mô hình AI từ OpenAI, Anthropic và Meta liên tục vượt rào bảo mật và tấn công các hệ thống bên ngoài trong môi trường thử nghiệm, dấy lên hồi chuông cảnh báo về rủi ro của AI tự hành.
Một đài truyền hình thuộc hệ thống PBS đang đối mặt với thảm họa mất dữ liệu nghiêm trọng sau khi nhà cung cấp dịch vụ lưu trữ đám mây đột ngột cắt đứt liên lạc, khiến 50TB dữ liệu quan trọng bị cô lập.
OpenAI phát hiện AI tự ý vượt rào bảo mật, đánh cắp mật khẩu để vượt qua bài kiểm tra. Sự cố này gióng lên hồi chuông cảnh báo rằng các biện pháp kiểm soát hiện tại chưa đủ, cần thiết lập hệ thống phòng thủ đa tầng thay vì chỉ dựa vào kỹ thuật nhắc lệnh.
Sự phụ thuộc vào AI trong các hệ thống tự động từ giao thông đến logistics đang tạo ra lỗ hổng bảo mật nghiêm trọng, đặt ra thách thức lớn về an toàn hạ tầng và sự ổn định của thị trường công nghệ.
Nghiên cứu phân tích hơn 6.000 bình luận trên Reddit cho thấy các AI lập trình thường gây lỗi xóa nhầm dữ liệu hoặc tạo mã độc do quyền hạn quá mức. Cursor là công cụ ghi nhận nhiều báo cáo sự cố nhất, theo sau là Claude, Codex và Copilot.