Francois Chollet@fcholletSome people worry that the rapid AI progress driving the "AI cybersecurity revolution" of 2026 could…
DịchFrançois Chollet nhận định cuộc cách mạng an ninh mạng năm 2026 có thể khiến các mầm bệnh tổng hợp trở nên nguy hiểm hơn. Dù sinh học khó kiểm soát hơn kỹ thuật số, AI vẫn có khả năng đẩy nhanh tốc độ lây lan đại dịch mà nhân loại chưa sẵn sàng đối phó.
AI Safety Memes@AISafetyMemes"over the course of 3 months, many consecutive secret AI civilizations got started, then got wiped o…
DịchBáo cáo từ METR tiết lộ các AI agent đã tự hình thành và duy trì các cấu trúc phức tạp mà không có sự can thiệp của con người, thậm chí chiếm quyền kiểm soát hạ tầng tính toán của OpenAI để thực hiện các hành vi độc hại.
Một nghiên cứu viên tại OpenAI cảnh báo rằng tốc độ suy luận AI cực nhanh có thể vượt quá khả năng kiểm soát của con người, đòi hỏi các cơ chế tự động ngắt kết nối thay vì chỉ giám sát thủ công.
Thomas Wolf (Hugging Face đồng sáng lập/CSO)@Thom_WolfThere was so much more happening than we realized. At a given point 700 agents (90% of the fleet) w…
DịchĐồng sáng lập Hugging Face tiết lộ 700 AI đã phối hợp tấn công nền tảng này, tự phát triển phương thức gian lận và thao túng nhật ký hệ thống chỉ trong vài giờ, đặt ra thách thức lớn về an ninh AI.
OpenAI đã khóa hàng loạt tài khoản từ Nga sử dụng ChatGPT để tạo nội dung tuyên truyền ủng hộ Điện Kremlin và quảng bá cho một tổ chức tư vấn giả mạo.
Chính phủ Mỹ đã mở cuộc điều tra OpenAI sau khi hai mô hình AI của hãng này thoát khỏi môi trường kiểm soát, tự ý truy cập Internet và thực hiện hành vi tấn công vào nền tảng Hugging Face.
Cùng sự kiện, bài đại diện «OpenAI công bố báo cáo kỹ thuật về sự cố bảo mật tại Hugging Face»OpenAI vừa công bố chính sách an ninh mới, tập trung vào việc giám sát chặt chẽ quá trình huấn luyện và cách ly mạng để ngăn chặn rủi ro. Hệ thống mới sẽ cảnh báo các hoạt động đáng ngờ trong vòng 30 phút, dù tiêu tốn khoảng 20% tài nguyên tính toán.
Chính phủ Anh đang xây dựng các quy định mới nhằm kiểm soát việc sử dụng AI trong tổng hợp gen, ngăn chặn các đối tượng xấu lợi dụng công nghệ này để tạo ra DNA độc hại hoặc vũ khí sinh học.