Thống đốc California ký sắc lệnh thúc đẩy cơ chế 'ngắt khẩn cấp' cho các mô hình AI tiên tiến

Lauren Feiner

là phóng viên chính sách cấp cao tại The Verge, chuyên đưa tin về sự giao thoa giữa Thung lũng Silicon và Đồi Capitol. Cô đã dành 5 năm đưa tin về chính sách công nghệ tại CNBC, viết về các vấn đề chống độc quyền, quyền riêng tư và cải cách kiểm duyệt nội dung.

Thống đốc bang California Gavin Newsom (Đảng Dân chủ) đang định vị bang này dẫn đầu trong công tác giám sát AI, bao gồm khả năng bắt buộc phải có "công tắc ngắt" (kill switch) cho các mô hình tiên phong (frontier models), thông qua một sắc lệnh hành pháp mới được ban hành vào thứ Sáu.

Sắc lệnh của Newsom chỉ đạo bang triệu tập một nhóm chuyên gia để đưa ra các khuyến nghị trong vòng hai tháng về cách tăng cường các biện pháp an toàn AI trong luật của bang. Newsom muốn nhóm này xem xét cách bang có thể yêu cầu các công ty AI bố trí các nhóm kiểm định độc lập tại chỗ để kiểm toán thường xuyên, đưa các báo cáo minh bạch và đánh giá rủi ro của họ vào các tiêu chuẩn của kiểm toán viên độc lập, tạo ra một "công tắc ngắt" được xác minh hiệu quả định kỳ, và đảm bảo các công ty phải báo cáo các "sự cố mất kiểm soát" như vụ tấn công OpenAI trên Hugging Face là các sự cố an toàn nghiêm trọng. Sắc lệnh cũng chỉ đạo một cơ quan nhà nước đẩy nhanh việc thực thi hai đạo luật mà ông vừa ký gần đây, tạo ra một khuôn khổ cho các đơn vị kiểm định độc lập đánh giá an toàn AI và một cơ sở dữ liệu nhà nước về các kiểm toán viên AI.

Đã có hàng loạt cuộc thảo luận về dự luật tại Quốc hội sau bài đăng của cựu nghiên cứu viên Jacob Coxon tại Anthropic, cảnh báo về khả năng hơn 10% AI "có thể tiêu diệt toàn bộ nhân loại" trong vòng một thập kỷ. Tuy nhiên, hy vọng về việc một dự luật thực chất được thông qua sớm tại Washington là rất mong manh, do Hạ viện đang trong kỳ nghỉ cho đến tháng 11, và các cuộc bầu cử giữa nhiệm kỳ sắp tới khiến khả năng thông qua các đạo luật lớn tại Thượng viện cũng khó xảy ra. Đồng thời, Tổng thống Donald Trump khẳng định: "Sự kiểm soát hoặc 'rào chắn' duy nhất mà AI cần là một TỔNG THỐNG MẠNH MẼ VÀ THÔNG MINH (IQ cao!), và Hoa Kỳ đang có điều đó, một cách dư thừa!"

Newsom đang kêu gọi Quốc hội và Trump "xem xét và áp dụng khuôn khổ của bang".

Sắc lệnh hành pháp của Newsom có lẽ chưa phải là điều cuối cùng chúng ta nghe thấy từ California về chủ đề này. Vào thứ Tư, trong một cuộc phỏng vấn với Politico, ông đã đề cập đến khả năng triệu tập các nhà lập pháp California cho một phiên họp đặc biệt về AI, bên cạnh các hành động hành pháp tiềm năng. Ông đặc biệt định vị sắc lệnh này như một mô hình cho hành động ở cấp liên bang, kêu gọi Quốc hội và Trump "xem xét và áp dụng khuôn khổ của bang, hoặc sử dụng các quy định dẫn đầu quốc gia này làm mức sàn, chứ không phải mức trần, vì lợi ích và sự an toàn của tất cả người dân Mỹ."

"Sự thất bại thảm hại của chính phủ liên bang trong việc tạo ra bất kỳ hình thức giám sát hoặc trách nhiệm giải trình nào về AI nên khiến mọi người Mỹ phải báo động, đặc biệt là khi chính các CEO của các công ty AI đang cầu xin sự quản lý," Newsom cho biết trong một tuyên bố. "Chúng tôi sẽ không chờ đợi để hành động – chúng tôi sẽ đẩy nhanh công việc của mình về việc giám sát AI một cách thực chất và có trách nhiệm trước khi quá muộn. Chúng tôi sẽ thực hiện điều này một cách thấu đáo nhưng với tốc độ khẩn trương; các rủi ro là quá lớn để có thể chờ đợi hay trì hoãn hành động."

Theo dõi các chủ đề và tác giả từ bài viết này để xem thêm các nội dung tương tự trong nguồn cấp dữ liệu trang chủ cá nhân của bạn và nhận các bản cập nhật qua email.