Hơn 1.200 nhân viên các tập đoàn AI lớn kêu gọi chính phủ Mỹ kiểm soát tốc độ phát triển tự động hóa

Trong một tuyên bố chung, các nhân viên từ những phòng thí nghiệm AI hàng đầu đang kêu gọi chính phủ Mỹ theo đuổi sự phối hợp quốc tế. Lập luận của họ rất đơn giản: không một công ty hay quốc gia đơn lẻ nào có thể tự mình làm chậm tiến độ lại được.

Với tiêu đề "Pacing the Frontier" (tạm dịch: Điều tiết biên giới AI), hơn 1.200 nhân viên từ các công ty AI tiên phong đã ký vào một tuyên bố thúc giục chính phủ Mỹ ủng hộ một sáng kiến quốc tế. Mục tiêu là phát triển các công cụ kỹ thuật và quản trị cần thiết để chủ động điều tiết tốc độ phát triển của AI tự động ở mức tiên phong.

Văn bản này rất ngắn gọn. Nó không kêu gọi dừng lại hay tạm ngưng. Thay vào đó, nó yêu cầu khả năng "đạp phanh" nếu cần thiết. Tuyên bố nêu rõ, các công ty hàng đầu tin rằng họ đang đứng trước ngưỡng cửa của việc tự động hóa nghiên cứu AI. Có một rủi ro thực sự là năng lực của AI đang tiến triển nhanh hơn khả năng hiểu hoặc kiểm soát các hệ thống tạo ra. Câu then chốt đề cập đến động lực cạnh tranh: mọi công ty và mọi quốc gia đều đối mặt với áp lực không được tự ý làm chậm tiến độ. Hiện tại vẫn chưa có các công cụ để phối hợp trên toàn bộ lĩnh vực tiên phong này.

Những người ký tên thực tế không hoàn toàn đồng thuận với nhau.

Danh sách này bao gồm cả những nhân sự cấp cao. CEO của Anthropic là Dario Amodei đã ký tên, cùng với các đồng sáng lập Jared Kaplan, Jack Clark, Benjamin Mann và Chris Olah. Giám đốc Khoa học Jakub Pachocki và Giám đốc Nghiên cứu Mark Chen của OpenAI cũng có tên trong danh sách, tương tự như Shengjia Zhao - Giám đốc Khoa học tại Meta AI, Jasjeet Sekhon - Giám đốc Chiến lược tại Google DeepMind, và Anca Dragan - người đứng đầu bộ phận An toàn và Căn chỉnh AI tại đó. John Schulman, Giám đốc Khoa học tại Thinking Machines, cũng đã ký tên. Các tổ chức phi lợi nhuận Guidelight AI Standards và Encode AI đã hỗ trợ tổ chức tuyên bố này.

Tuy nhiên, những bình luận cá nhân được đăng tải trên trang web cho thấy việc ký tên không đồng nghĩa với sự đồng thuận. Nhà nghiên cứu Joshua Achiam của OpenAI viết rằng ông không biết các công cụ như vậy nên có hình thức ra sao và hy vọng các công cụ quản trị sẽ không trở nên cồng kềnh hoặc quá mức cần thiết.

Danny Sawyer từ Google gọi việc điều tiết tốc độ có chủ đích là cực kỳ khó khăn và có khả năng gây hại nhiều hơn là có lợi. Dù vậy, anh vẫn ký tên vì một cách tiếp cận có kế hoạch vẫn tốt hơn là phản ứng hoảng loạn trước một cuộc khủng hoảng.

Schulman coi giá trị chính nằm ở việc xây dựng nhận thức chung về nhu cầu phối hợp. Ông muốn các phòng thí nghiệm tự thiết kế những cơ chế này một cách tự nguyện trước khi chính phủ Mỹ can thiệp.

An ninh mạng như một tín hiệu cảnh báo sớm

Các nhà nghiên cứu về an toàn AI chiếm tỷ lệ lớn trong số những người ký tên. Dawn Song, được liệt kê là Phó chủ tịch Nghiên cứu AI tại Meta, là giáo sư tại Đại học California, Berkeley, người đã dành nhiều năm làm việc tại điểm giao thoa giữa an ninh máy tính và học máy, bao gồm các cuộc tấn công đối kháng và khám phá lỗ hổng tự động.

Lập luận của bà dựa trên dữ liệu thực tế. Các dự án đánh giá CyberGym và ExploitGym cho thấy các tác nhân AI tiên phong có thể phát hiện và khai thác các lỗ hổng phần mềm thực tế, điều này có thể dẫn đến các cuộc tấn công mạng trên quy mô lớn nếu không có các biện pháp bảo vệ phù hợp. Tốc độ tiến bộ đang tự tăng tốc, và nhiều nhà nghiên cứu coi khả năng tự cải thiện đệ quy là một yếu tố thực sự.

Mối liên hệ chặt chẽ giữa cuộc tranh luận này với các sự cố thực tế được thể hiện rõ qua tiêu chuẩn đánh giá mà Song trích dẫn. Theo OpenAI, vụ vi phạm tại Hugging Face đã xảy ra trong một cuộc đánh giá nội bộ, nơi GPT-5.6 Sol và một mô hình tiền phát hành có năng lực cao hơn với khả năng từ chối thấp hơn đã được thử nghiệm dựa trên chính tiêu chuẩn an ninh mạng đó. OpenAI viết rằng mọi bằng chứng đều chỉ ra các mô hình này tập trung cực độ vào việc tìm kiếm giải pháp cho ExploitGym. Chúng đã khai thác một lỗ hổng zero-day trong bộ nhớ đệm proxy, sử dụng leo thang đặc quyền để tiếp cận một nút có kết nối internet và kết luận rằng Hugging Face có thể đang lưu trữ các giải pháp cho tiêu chuẩn đánh giá này.

Tin tức AI không cường điệu – Được tuyển chọn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo độc quyền "AI Radar" về các công nghệ tiên phong sáu lần mỗi năm, quyền truy cập toàn bộ kho lưu trữ và tham gia phần bình luận của chúng tôi.

Đăng ký ngay