Mã nguồn mở không đồng nghĩa với mở trọng số: Gary Marcus phân tích sự khác biệt cốt lõi

Gary Marcus@GaryMarcus

Thật đáng buồn khi thấy @nytimes nhầm lẫn giữa open-source (minh bạch hoàn toàn) với open-weight models (ít minh bạch hơn; không có quyền truy cập vào dữ liệu huấn luyện, chẳng hạn). Mô hình mới của Meta là open-weight chứ không phải open-source. NYT đã sai rồi. Đã đến lúc cả giới truyền thông và công chúng cần tìm hiểu rõ điều này.

1:26 CH · 10 thg 8, 2026 · 3.29K Lượt xem

9 Trả lời · 4 Trích dẫn · 43 Thích

Không hề quá lời khi nói rằng phần mềm open-source — nơi mà mã nguồn hoàn chỉnh được cung cấp cho bất kỳ ai — đã thay đổi thế giới và thúc đẩy sự phát triển phần mềm.

Nhưng open-source và open-weight là hai khái niệm hoàn toàn khác biệt, và quá nhiều người — sáng nay là các biên tập viên và cây bút tại The New York Times cùng những người khác — đang không phân biệt được hai khái niệm này.

Bản chất của open-source có hai khía cạnh: tính minh bạch và khả năng tùy biến. Nếu bạn muốn biết một thứ gì đó hoạt động như thế nào, bạn hãy nhìn vào mã nguồn. Bạn có thể thay đổi bất cứ thứ gì trong mã nguồn đó (ví dụ như "fork" ra một phiên bản mới nếu bạn muốn tạo ra một biến thể khác). Tất cả những điều này đều tuyệt vời cho cộng đồng, và đó là lý do tại sao open-source lại trở thành một lực lượng năng động đến vậy. Nó được gọi là open-source vì bạn công khai mã nguồn của sản phẩm cuối cùng. Open-weight không làm được điều đó.

Open-weight "ăn theo" tất cả những lời khen ngợi dành cho open-source nhưng lại cung cấp rất ít lợi ích thực tế. Các mô hình open-weight KHÔNG thể tùy biến hoàn toàn và cũng không minh bạch. Chúng là sản phẩm của học máy (trọng số của một mạng thần kinh đã được huấn luyện), nhưng không phải là toàn bộ quy trình từ đầu đến cuối. Điều đó có nghĩa là bạn có thể chạy chúng (hoặc "post-train" chúng), nhưng quan trọng là người dùng không thể tùy biến hay cải thiện chúng ở mức độ tương đương (tôi sẽ nói rõ hơn về điều này ngay sau đây), và những người bên ngoài cũng không thể kiểm tra chúng ở mức độ tương đương. Bạn cũng không thể xây dựng cộng đồng theo cách tương tự.

Nếu chim bồ câu chỉ là "những con chuột với khả năng PR tốt hơn", thì open-weight chính là open-source với tất cả những lời khen ngợi tốt đẹp nhưng lại ít lợi ích hơn nhiều.

Để hiểu tất cả những điều này, cần có sự hiểu biết cơ bản về vòng đời của một mô hình học máy. Hãy bắt đầu với một bản phác thảo đơn giản hóa mà tôi đã lấy (và sửa đổi) từ geeksforgeeks.org. Phần được làm nổi bật, mà tôi sẽ giải thích ngay sau đây, là do tôi thực hiện.

(Không hiển thị trong hình là "post-training", nơi mọi người cố gắng căn chỉnh và uốn nắn các mô hình "base" đã được huấn luyện theo ý muốn của họ. Đó là tất cả những gì bạn có thể làm với một mô hình open-weight; tôi sẽ đưa ra ví dụ về những gì bạn không thể làm ngay sau đây.)

Khi ai đó phát hành một mô hình open-weight, họ đang phát hành mô hình ứng viên (được làm nổi bật) [đôi khi còn được gọi là mô hình cơ sở (base model)] — vốn là đầu ra của một quy trình phức tạp — chứ không phải toàn bộ quy trình đã tạo ra mô hình đó. Bạn có thể điều chỉnh mô hình ứng viên đó, nhưng bạn không thể xây dựng lại hoặc kiểm tra nó theo ý muốn như cách bạn có thể làm với một mô hình open-source thực thụ, chẳng hạn như Olmo của AllenAI hay Nemotron của Nvidia, những mô hình thực sự đúng với những gì được quảng cáo: "trọng số mở, dữ liệu huấn luyện và công thức thực hiện."

Ngược lại, khi mọi người phát hành các mô hình open-weight, họ không tiết lộ "Full Monty" (toàn bộ sự thật). Họ không phát hành dữ liệu thô; họ không tiết lộ cách họ tiền xử lý dữ liệu đó; và họ không tiết lộ các thuật toán và tham số chính xác mà họ đã sử dụng trong quá trình huấn luyện. (Đối với những ai cần thêm một phép ẩn dụ nữa, thì giống như họ đang đưa cho bạn một chiếc bánh nhưng không đưa công thức; bạn có thể thêm kem lên trên, có thể thêm một ít trái cây hoặc sốt sô-cô-la, nhưng bạn không thể thay đổi các nguyên liệu thô đã tạo nên chiếc bánh đó.)

Tất cả những điều này tạo ra sự khác biệt rất lớn đối với các nhà phát triển có thể sử dụng hệ thống, đối với các nhà quản lý, các nhà khoa học và cuối cùng là đối với cả thế giới.

Đối với các nhà phát triển, giả sử bạn có một giả thuyết rằng bạn có thể tạo ra một AI an toàn hơn nếu bạn xóa tất cả dữ liệu Reddit khỏi quá trình huấn luyện. Rất tiếc, bạn không gặp may: trong một hệ thống open-weight (trái ngược với hệ thống open-source thực thụ), bạn hoàn toàn không thể thay đổi dữ liệu huấn luyện, và thực tế là bạn thậm chí còn không thể nhìn thấy dữ liệu đó. Hoặc giả sử bạn muốn huấn luyện một mô hình về lập luận pháp lý và nhận ra rằng luật thông luật (common law) và luật thành văn (statutory law) là khác nhau. Để giảm bớt sự nhầm lẫn trong hệ thống, bạn muốn lọc bỏ các nội dung về thông luật trước khi huấn luyện; một lần nữa, bạn không gặp may. Hoặc giả sử bạn muốn sử dụng quy trình huấn luyện của một Công ty lớn chỉ trên dữ liệu của riêng bạn, thay vì những thứ ngẫu nhiên mà họ thu thập từ web. Không, bạn cũng không thể làm điều đó. (Bạn cũng không thể chia sẻ kết quả của bất kỳ thí nghiệm nào trong số đó với cộng đồng, vì ngay từ đầu bạn đã không thể chạy chúng.)

Hoặc giả sử bạn là một nhà quản lý và bạn muốn biết có bao nhiêu sự thiên kiến đối với nam giới da trắng trong dữ liệu huấn luyện. Rất tiếc, bạn cũng không thể xem được điều đó. Có những loại hướng dẫn nào liên quan đến vũ khí sinh học? Một lần nữa, không thể.

Bạn là một nhà khoa học? Bạn muốn điều tra xem bao nhiêu phần trong những gì mô hình thực hiện là sự lặp lại máy móc và bao nhiêu phần mở rộng ra ngoài dữ liệu huấn luyện, vốn được coi là câu hỏi trọng tâm trong AI? Rất tiếc, bạn cũng không gặp may ở đó. Những người phát hành mô hình open-weight có thể làm điều đó vì họ nắm giữ tất cả những chi tiết vốn đang bị đóng kín, nhưng bạn thì không. Hoặc có lẽ bạn chỉ muốn biết liệu câu trả lời cho các bài kiểm tra (benchmark) yêu thích của bạn có thực sự đã nằm trong dữ liệu huấn luyện hay không? Không, bạn cũng không thể xem được điều đó.

Tất cả những điều này thật đáng tiếc. Nó có nghĩa là các nhà phát triển thường không thể thực sự sử dụng các mô hình open-weight (bất chấp sự cường điệu) để phát triển những gì họ muốn; các nhà khoa học không thể sử dụng chúng để kiểm chứng nhiều giả thuyết quan trọng, và các nhà quản lý không thể nhìn thấu vào bên trong quy trình.

Hơn nữa, nếu bạn muốn biết bao nhiêu phần dữ liệu huấn luyện có bản quyền, bạn cũng không thể xem được — đó có lẽ là một phần lý do tại sao không công ty lớn nào muốn phát hành open-source thực thụ, mà thay vào đó chọn open-weight, để nhận được gần như tất cả những lời khen ngợi tích cực mà không thực sự giúp ích cho cộng đồng nhiều như vậy.

Điều gì đã thôi thúc tôi cuối cùng cũng viết về vấn đề này?

Meta vừa phát hành một mô hình open-weight. Phải công nhận rằng, chính Zuckerberg đã sử dụng thuật ngữ đúng ở đây:

Mark Zuckerberg@finkd

Hôm nay ra mắt Muse Code bản beta. Đây là một tác nhân lập trình (coding agent) đầu cuối đảm nhận các nhiệm vụ kỹ thuật phần mềm hoàn chỉnh trên các kho lưu trữ lớn: lập kế hoạch thay đổi, viết mã, xác thực kết quả. Được vận hành bởi Muse Spark 1.2, một bản cập nhật mô hình tập trung vào lập trình.

7:09 CH · 5 thg 8, 2026 · 2.87M Lượt xem

1.34K Trả lời · 1.28K Trích dẫn · 14.6K Thích

Nhưng tờ Times thì không:

Việc đặt dấu ngoặc kép quanh từ open-source không làm cho một mô hình open-weight trở nên "mở" hơn. Và mặc dù người ta có thể post-train mô hình mới của Meta, điều chỉnh nó ở một mức độ nào đó, nhưng vì tất cả những lý do tôi vừa mô tả, nó không thể được sửa đổi tự do, cũng không thể được sử dụng cho mục đích khoa học đúng nghĩa. Bạn không thể thực hiện bất kỳ sửa đổi nào mà tôi đã mô tả ở trên. Và bạn cũng không thể tìm ra cách mô hình đó hình thành như thế nào ngay từ đầu.

Zuckerberg biết rất rõ sự khác biệt giữa open-weight và open-source. Vài tuần trước, anh ấy đã ca ngợi giá trị của open-source:

Nhưng cũng đã thực hiện chiêu trò "treo đầu dê bán thịt chó" với một tweet khác ở đây:

Mark Zuckerberg@finkd

Open source là một lực lượng tích cực và quan trọng để trao quyền cho mọi người và ngăn chặn sự tập trung quyền lực. Tự hào được ủng hộ điều này.

Satya Nadella @satyanadella

Các mô hình open-weight là yếu tố thiết yếu cho một hệ sinh thái AI lành mạnh. Cùng với những người khác trong ngành, chúng tôi đang vạch ra lộ trình để các mô hình open-weight củng cố năng lực cạnh tranh của Mỹ và mở rộng cơ hội kinh tế, đồng thời bảo vệ an ninh quốc gia. https://t.co/Tr0sAzAxTD

7:13 CH · 24 thg 7, 2026 · 8.29M Lượt xem