Chuyên gia Mỹ - Trung đề xuất quy tắc cấm AI kiểm soát vũ khí hạt nhân

Các chuyên gia từ Mỹ và Trung Quốc muốn ngăn chặn các hệ thống AI đưa ra quyết định tự chủ về việc triển khai vũ khí hạt nhân. Melanie Sisson từ Viện Brookings và Tianjiao Jiang từ Đại học Phúc Đán đã công bố các đề xuất cụ thể trước cuộc gặp dự kiến giữa Trump và Tập Cận Bình vào ngày 24 tháng 9.

Các đề xuất này vạch ra một số lằn ranh đỏ. Không hệ thống AI nào được phép tự ý phóng vũ khí hạt nhân hoặc tấn công các hệ thống chỉ huy hạt nhân. Con người phải duy trì quyền kiểm soát duy nhất đối với các cuộc tấn công mạng do AI điều khiển nhắm vào cơ sở hạ tầng chiến lược. Cả hai quốc gia nên thống nhất một định nghĩa chung về "sự kiểm soát của con người". Các khuyến nghị này được xây dựng dựa trên thỏa thuận mà Biden và Tập Cận Bình đã đạt được vào tháng 11 năm 2024.

Jiang cũng đề xuất một đường dây nóng cho các sự cố liên quan đến AI. Nếu một hệ thống AI phòng thủ tự động phản ứng với hoạt động đáng ngờ, phía bên kia có thể hiểu nhầm đó là một cuộc tấn công. Một đường dây trực tiếp sẽ cho phép chính phủ các nước làm rõ rằng sự cố là vô tình trước khi tình hình leo thang.

Đây không phải là lần đầu tiên có người lên tiếng cảnh báo. Ủy ban An ninh Quốc gia về Trí tuệ Nhân tạo (NSCAI) đã kêu gọi duy trì sự kiểm soát của con người đối với vũ khí hạt nhân từ năm 2021. Tuy nhiên, các cơ chế ràng buộc vẫn chưa tồn tại. Carla Freeman từ Đại học Johns Hopkins đặt câu hỏi liệu những đường dây nóng như vậy có thực sự hiệu quả hay không. Trong cuộc khủng hoảng khinh khí cầu do thám năm 2023, Trung Quốc đã không bắt máy khi Mỹ gọi điện.

Tin tức AI không thổi phồng – Được biên soạn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo tiên phong "AI Radar" độc quyền sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và quyền truy cập vào phần bình luận của chúng tôi.

Đăng ký ngay