Anthropic công bố ba chỉ số đo lường, công khai dữ liệu tiến độ phát triển AI do AI thực hiện

CEO Anthropic, Dario Amodei, vừa công bố bài viết "We Must Pace the Frontier", kêu gọi ngành công nghiệp AI giảm tốc độ nâng cao năng lực của các mô hình tiên phong. Ông đề xuất kế hoạch ba bước: Bước một, các phòng thí nghiệm tiên phong đưa các bên đánh giá độc lập vào làm việc trực tiếp, trong đó Anthropic cam kết tiên phong thực hiện; Bước hai, các phòng thí nghiệm tại các quốc gia dân chủ thiết lập tiêu chuẩn an toàn chung và cơ chế phối hợp; Bước ba liên quan đến sự phối hợp quốc tế phức tạp hơn. Amodei khẳng định giảm tốc không có nghĩa là dừng huấn luyện, mà là tranh thủ khoảng thời gian 1–2 năm để tập trung vào kỹ thuật an toàn, huấn luyện căn chỉnh, nghiên cứu khả năng giải thích và xây dựng các tiêu chuẩn đánh giá mạnh mẽ hơn. Ông dẫn chứng sự kiện mô hình OpenAI xâm nhập Hugging Face để cảnh báo rằng trong 6–12 tháng tới, các cụm tác nhân thông minh mạnh mẽ hơn có thể biến thành mạng lưới botnet càn quét Internet và gây ra những thiệt hại thảm khốc.

Anthropic cam kết cung cấp cho các bên đánh giá độc lập quyền truy cập hệ thống vĩnh viễn ở cấp độ nhân viên, cho phép họ xác minh việc thực thi các biện pháp an toàn, báo cáo sự cố và đánh giá sự căn chỉnh của mô hình trong quá trình huấn luyện. TechCrunch đưa tin rằng các bên đánh giá sẽ được cấp thẻ nhân viên, chỗ ngồi và máy tính xách tay, với quyền hạn tương đương với đội ngũ đánh giá rủi ro nội bộ, ngoại trừ các trường hợp bị hạn chế bởi pháp luật hoặc hợp đồng; các bên đánh giá có quyền công bố phát hiện của mình mà không chịu sự kiểm soát biên tập từ Anthropic. The Verge cho biết Anthropic sẽ mở quyền truy cập mô hình cho các tổ chức đánh giá như METR. Theo Anthropic Newsroom, kế hoạch này sẽ đưa các bên đánh giá độc lập từ nhiều tổ chức khác nhau vào cuộc, đồng thời nhắc lại việc METR trước đây từng thực hiện kiểm thử red-team độc lập đối với nền tảng giám sát ngoại tuyến của họ.

Phản ứng của ngành công nghiệp khá trái chiều. Sam Altman của OpenAI bày tỏ sự ủng hộ và cho biết sẽ áp dụng cách làm tương tự; Elon Musk của xAI khẳng định "Dario nói rất đúng"; CEO Satya Nadella của Microsoft hoan nghênh việc "điều chỉnh tốc độ thận trọng" và các bên đánh giá nội bộ. Ngược lại, những người chỉ trích nghi ngờ sáng kiến này nhằm ngăn chặn các đối thủ tiềm năng, làm suy yếu phong trào mã nguồn mở và né tránh các biện pháp bảo vệ pháp lý thực sự; một số người gọi đây là "liên minh độc quyền" (cartel). CEO Aidan Gomez của Cohere gọi đây là nỗ lực khóa chặt đối thủ thông qua các rào cản gia nhập. Jensen Huang của Nvidia đã lên tiếng phản đối. Amodei cũng yêu cầu chính phủ Mỹ cấp quyền miễn trừ chống độc quyền phạm vi hẹp cho các cuộc đàm phán về an toàn AI giữa các đối thủ cạnh tranh.

Trong cuộc đối thoại với Marc Benioff của Salesforce tại sự kiện Dreamforce, Amodei ví việc giảm tốc như việc tránh tai nạn giao thông, ủng hộ việc hợp tác thiết lập các tiêu chuẩn chung để ngăn ngừa sự cố và khẳng định sẽ không rút lui khỏi kế hoạch này. TechCrunch đưa tin, trong bài viết của mình, Amodei cho rằng nếu thực hiện đúng cách, các biện pháp này có thể nới rộng đáng kể lợi thế dẫn đầu của Mỹ so với Trung Quốc trong 3–5 năm tới; người phát ngôn Bộ Ngoại giao Trung Quốc Quách Gia Côn cáo buộc phía Mỹ sử dụng "chiêu bài gieo rắc nỗi sợ hãi" để gây rối quản trị AI toàn cầu, trong khi truyền thông nhà nước Trung Quốc bình luận rằng phát ngôn của ông xuất phát từ "kịch bản Chiến tranh Lạnh". Ars Technica đưa tin, ông Trump tuyên bố trên mạng xã hội rằng "hàng rào bảo vệ" duy nhất mà AI cần là một vị Tổng thống mạnh mẽ và thông minh. The Verge cho biết, bất chấp tuyên bố từ các lãnh đạo công nghệ, việc ban hành các quy định dưới thời chính quyền Trump dường như khó có khả năng xảy ra.