Thống đốc California ký sắc lệnh: Yêu cầu xây dựng cơ chế 'nút dừng khẩn cấp' cho AI trong 2 tháng

Theo tin từ IT ngày 19 tháng 9, CNBC đưa tin vào ngày 18 theo giờ địa phương, Thống đốc bang California Gavin Newsom đã ký một sắc lệnh hành pháp yêu cầu tăng cường hơn nữa các biện pháp quản lý và an toàn AI, với hy vọng hành động "trước khi quá muộn".

Theo sắc lệnh này, bang California sẽ triệu tập một nhóm chuyên gia AI để tổ chức các cuộc họp và đưa ra phương án trong vòng hai tháng nhằm hoàn thiện hơn nữa các quy định pháp luật về an toàn và bảo vệ AI.

Sắc lệnh yêu cầu nhóm chuyên gia nghiên cứu thiết lập "công tắc dừng khẩn cấp" (emergency stop switch) cho AI, tức là cơ chế ứng phó có thể tắt hệ thống ngay lập tức khi xảy ra sự cố nghiêm trọng. Ngoài ra, nhóm chuyên gia cũng cần nghiên cứu xây dựng các đạo luật nghiêm ngặt hơn, yêu cầu các tổ chức độc lập bên thứ ba xây dựng phương án an toàn toàn diện cho các doanh nghiệp AI, đồng thời tiến hành kiểm toán an toàn tại các doanh nghiệp này.

Trong tuyên bố đi kèm sắc lệnh, Newsom chỉ trích chính phủ liên bang đã phớt lờ các vấn đề về AI trong thời gian dài và cho rằng California phải tự mình hành động. "Chính phủ liên bang hoàn toàn thất bại trong việc thiết lập bất kỳ cơ chế quản lý hoặc trách nhiệm giải trình nào có ý nghĩa đối với AI, điều này đáng lẽ phải khiến mọi người dân Mỹ cảm thấy cảnh giác, đặc biệt là khi chính các CEO của các doanh nghiệp AI cũng đang khẩn cầu chính phủ quản lý. Chúng ta sẽ không tiếp tục chờ đợi mà sẽ đẩy nhanh việc thúc đẩy quản lý AI một cách thực chất và có trách nhiệm, hành động trước khi quá muộn. Chúng ta sẽ tiến hành một cách nghiêm túc nhưng tốc độ phải đủ nhanh; vấn đề này rất quan trọng, không thể chờ đợi thêm, cũng không thể tiếp tục trì hoãn."

IT được biết từ báo cáo rằng, Newsom cũng đề xuất khả năng triệu tập một phiên họp đặc biệt của cơ quan lập pháp bang để giải quyết các vấn đề về AI.