Thư ngỏ gửi Dario Amodei: Muốn kiểm soát AI tiên tiến, hãy bắt buộc công khai trọng số mô hình

Gửi Dario,

Hôm nay ông đã công bố bài viết "We Must Pace the Frontier" (Chúng ta phải kiểm soát tốc độ phát triển tiên phong), trong đó cam kết Anthropic sẽ sử dụng các đơn vị đánh giá bên thứ ba và kêu gọi chính phủ yêu cầu mọi công ty tiên phong khác phải làm điều tương tự. Sam Altman đã đồng ý chỉ trong vòng vài giờ.

Mục tiêu được nêu ra là làm chậm tốc độ phát triển của AI.

Tôi tin rằng ông đang thực tâm, vì vậy tôi yêu cầu ông hãy kêu gọi một đạo luật khác, một đạo luật thực sự có thể làm chậm mọi thứ, ngay cả khi nó đòi hỏi sự hy sinh thực sự từ phía ông.

Bất kỳ mô hình AI nào mà một công ty cung cấp cho công chúng đều phải được phát hành dưới dạng open weights (trọng số mở).

Điều này sẽ không áp dụng cho mọi mô hình mà ông huấn luyện, chỉ áp dụng cho những mô hình mà ông cung cấp cho công chúng. Các mô hình nội bộ và mô hình nghiên cứu sẽ không bị ảnh hưởng, và chính phủ vẫn có thể tiếp cận các mô hình chưa được phát hành.

Nhưng Anthropic sẽ phải công bố trọng số của Fable ngay trong ngày nó được phát hành, OpenAI cũng sẽ phải làm điều tương tự với Astra, và tất cả những đơn vị khác cũng vậy.

Như ông đã biết, nguồn vốn cho việc phát triển các mô hình tiên phong phụ thuộc vào mức định giá dựa trên giả định rằng các trọng số vẫn là tài sản độc quyền. Bằng cách thay đổi giả định đó, chúng ta có thể giảm bớt số tiền dành cho các đợt huấn luyện trong tương lai và làm chậm tiến độ tại mọi phòng thí nghiệm cùng một lúc, mà không cần bất kỳ cơ quan quản lý nào phải đưa ra quyết định.

Mọi quy định mà ông yêu cầu đều dẫn đến sự thao túng chính sách (regulatory capture).

Không có cách nào làm chậm các mô hình tiên phong thông qua quy định mà không dẫn đến sự thao túng chính sách. Các đơn vị đánh giá nhúng, ngưỡng tính toán, sự phối hợp ngành với các miễn trừ chống độc quyền. Tất cả đều được soạn thảo với sự hỗ trợ từ các phòng thí nghiệm tiên phong hiện tại, bởi vì không ai khác hiểu đủ rõ các chi tiết kỹ thuật để viết ra chúng.

Một khi đã thành luật, nó chỉ trở nên phức tạp hơn, vì mỗi sự cố lại thêm vào một quy tắc mới và không có quy tắc nào từng bị loại bỏ. Các công ty lớn có đủ khả năng chi trả cho các đội ngũ tuân thủ và luật sư để theo kịp, và mỗi yêu cầu mới lại khiến bất kỳ ai khác khó có thể bắt kịp họ hơn. Thay vì làm chậm ông, nó lại bảo vệ vị thế và lợi nhuận của ông.

Tại sao tôi lại yêu cầu ông điều này

Ông có vẻ là một người tốt và có nguyên tắc, và ông có bề dày thành tích trong việc từ bỏ những thứ vì niềm tin của mình. Ông đã rời OpenAI để thành lập một công ty với sự an toàn được xây dựng ngay từ đầu, trong khi lựa chọn an toàn cho sự nghiệp là ở lại. Ông đã dành nhiều năm để kêu gọi quản lý ngành của chính mình và bị gọi là kẻ bi quan (doomer) hay kẻ thao túng chính sách vì điều đó. Ông đã thúc đẩy các biện pháp kiểm soát xuất khẩu làm thu hẹp thị trường của chính mình. Anthropic đã trả 1,5 tỷ đô la để dàn xếp với các tác giả thay vì chiến đấu đến cùng. Và hôm nay, ông đã cam kết làm chậm lại trước bất kỳ ai khác.

Ông cũng có tầm nhìn xa khi biến Anthropic thành một PBC (Public Benefit Corporation - Tập đoàn vì lợi ích công cộng), vì vậy ông có thể hợp pháp đặt sứ mệnh lên hàng đầu:

Phát triển và duy trì AI tiên tiến một cách có trách nhiệm vì lợi ích lâu dài của nhân loại.

Đây chính xác là kiểu quyết định đặt sứ mệnh lên trên lợi nhuận ngắn hạn mà cấu trúc PBC tồn tại để thực hiện. Ông vẫn là người duy nhất có thể đề xuất một đạo luật như thế này mà vẫn được coi trọng, và là người duy nhất có khả năng thực sự thực hiện nó.

Nếu ông thực sự muốn làm chậm AI tiên phong, hãy kêu gọi một đạo luật yêu cầu mọi mô hình công khai cho công chúng đều phải là open weights. Không có gì trong đó để có thể lợi dụng hay né tránh, ngay cả đối với chính ông.