Cuộc chiến về mã nguồn mở AI: Khi các ông lớn công nghệ bất đồng quan điểm

Các bức thư ngỏ về phát triển AI

Tôi đã viết bản tóm tắt về các bức thư ngỏ trong vài tuần qua như một phần trong bản tin dành riêng cho các nhà tài trợ của mình, nhưng tôi quyết định chia sẻ nó ở đây nữa.

Bức thư "Open Weights and American AI Leadership" (tạm dịch: Trọng số mở và vị thế dẫn đầu AI của Mỹ) được Microsoft dẫn dắt, đề ngày 24 tháng 7 và có chữ ký của 235 công ty liên quan đến AI, bao gồm NVIDIA, Amazon, Y Combinator, The Linux Foundation và (một bên ký sau đó là) OpenAI.

Đây rõ ràng là một lập luận được thiết kế để phản bác bất kỳ ý định nào từ chính phủ Mỹ hiện tại nhằm cấm hoặc hạn chế các mô hình trọng số mở (open weight models) vì những lo ngại về "an toàn" - một sự cân nhắc hợp lý nếu xét đến những gì đã xảy ra với Claude Fable 5!

Chỉ dựa vào các mô hình đóng (closed models) không mặc nhiên là an toàn: chúng có thể bị xâm nhập, lạm dụng hoặc gặp lỗi theo những cách mà người ngoài không thể phát hiện. Việc tập trung các năng lực AI tiên tiến vào một số ít các mô hình đóng sẽ làm trầm trọng thêm rủi ro đó. Điều này dẫn đến một số ít các điểm lỗi đơn lẻ, làm suy yếu sự cạnh tranh và đặt công nghệ quan trọng vào tay một vài nhà cung cấp. Ngược lại, các mô hình trọng số mở cho phép một cộng đồng rộng lớn các nhà nghiên cứu và nhà phát triển kiểm tra hành vi, xác định lỗ hổng, phát triển các biện pháp bảo vệ và cải thiện chúng theo thời gian.

Một điểm đáng ngạc nhiên trong bức thư là nó ủng hộ kỹ thuật chưng cất (distillation), nơi các mô hình được huấn luyện dựa trên đầu ra từ các mô hình khác:

Khi định hình hệ sinh thái này, các nhà hoạch định chính sách nên cẩn trọng để không đánh đồng các kỹ thuật phát triển mô hình hợp pháp với việc chiếm đoạt trái phép. Chưng cất, hay thực tiễn sử dụng đầu ra của một mô hình để giúp huấn luyện hoặc cải thiện mô hình khác, là một kỹ thuật được sử dụng rộng rãi để cải thiện, đánh giá và xác thực mô hình. Nó phản ánh một truyền thống lâu đời về việc học hỏi, xây dựng dựa trên và cải tiến các công nghệ hiện có, một truyền thống đã giúp thúc đẩy đổi mới kể từ khi phong trào phần mềm mã nguồn mở trỗi dậy.

Đáng chú ý là sự vắng mặt trong danh sách ký tên: Anthropic, đơn vị đã công bố phản hồi của riêng họ với tiêu đề "Our position on open-weights models" (tạm dịch: Quan điểm của chúng tôi về các mô hình trọng số mở) ba ngày sau đó. CEO Dario Amodei nhấn mạnh thêm về rủi ro các chính phủ độc tài xây dựng "các mô hình AI mạnh hơn những mô hình do Mỹ tạo ra", và các mô hình bị "lạm dụng để thực hiện các cuộc tấn công mạng hoặc tấn công sinh học", đồng thời kêu gọi "trấn áp các hoạt động chưng cất ở quy mô công nghiệp", trong khi vẫn khẳng định rằng "Anthropic chưa bao giờ ủng hộ việc cấm các mô hình trọng số mở".

Sau đó vào ngày 28 tháng 7, bức thư "Pacing the Frontier" (tạm dịch: Điều tiết sự tiên phong) đã được công bố, với chữ ký của "1.324 nhân viên từ các công ty AI tiên phong" - bao gồm những cái tên như Jakub Pachocki (Giám đốc Khoa học, OpenAI), Ilya Sutskever (Safe Superintelligence Inc, trước đây là OpenAI), Dario Amodei (Anthropic), Jack Clark (Anthropic) và nhiều người khác. Thông điệp cốt lõi của họ là:

Chúng tôi yêu cầu chính phủ Hoa Kỳ hỗ trợ một nỗ lực quốc tế nhằm phát triển các công cụ kỹ thuật và quản trị cần thiết để chủ động điều tiết sự tiên phong trong phát triển AI tự động.

Mối quan tâm của họ là áp lực cạnh tranh gay gắt kết hợp với sự tiến bộ AI được đẩy nhanh nhờ nghiên cứu AI tự động - và xét đến việc Anthropic tạo ra 80% mã nguồn của họ bằng Claude Code, OpenAI đã nhờ Sol giảm 20% chi phí phục vụ (serving costs) đầu cuối, và Kimi K3 đã thiết kế một con chip để vận hành một mô hình nano được xây dựng trên kiến trúc của riêng nó, bạn có thể hiểu tại sao mọi người lại đang xem xét rủi ro đó một cách nghiêm túc hơn vào lúc này.