Cộng đồng Debian đề xuất cấm nội dung do AI tạo ra trong dự án

Dòng thời gian

Đề xuất A - Người đề xuất

Matthias Geiger [[email protected]] [nội dung đề xuất]

Đề xuất A - Người ủng hộ

Đề xuất A

Lựa chọn 1

Lời mở đầu

Đề xuất này nhằm mục đích cấm rõ ràng mọi đóng góp cho Debian được viết bằng cách sử dụng hoặc hỗ trợ của các mô hình ngôn ngữ lớn (LLM) hoặc các công cụ AI tạo sinh khác.

Phạm vi của Nghị quyết chung (GR) này bao gồm (nhưng không giới hạn):

Nghị quyết này không bao gồm:

Cơ sở lý luận

Debian có danh tiếng vững chắc về sự ổn định. Sự ổn định này đóng vai trò then chốt đối với vị thế của Debian trong hệ sinh thái phần mềm tự do. Chúng tôi tin rằng việc sử dụng LLM tràn lan bắt nguồn từ thái độ "di chuyển nhanh và phá vỡ mọi thứ" (move fast, and break things). Mặc dù thái độ này phổ biến trong nhiều lĩnh vực của ngành công nghiệp, nhưng nó lại trái ngược với những gì tạo nên bản sắc của Debian và không phù hợp với những người đóng góp cho Debian.

Trên thực tế, việc sử dụng LLM làm nảy sinh các mối quan ngại sau:

Đầu ra của LLM có tình trạng pháp lý rất không rõ ràng: nó có thể có hoặc không có khả năng được bảo hộ bản quyền dựa trên giá trị tự thân; nó có thể bị ảnh hưởng hoặc không bởi tất cả các giấy phép và bản quyền trong dữ liệu huấn luyện. Chính sách Debian và DFSG yêu cầu sự minh bạch tuyệt đối về cấp phép và bản quyền[1][2]. Phần mềm và các đóng góp khác do con người viết theo cách thông thường mà có tình trạng bản quyền hoặc giấy phép không rõ ràng đều không được phép đưa vào Debian; đầu ra của LLM không nên có ngoại lệ đặc biệt nào cho vấn đề này.

Đầu ra của LLM có nhiều vấn đề đã được biết đến về độ chính xác.[3][4][5] Một LLM không bao giờ có thể "biết" liệu đầu ra của nó có đúng hay không vì nó chỉ đơn thuần tạo ra các tổ hợp có xác suất cú pháp cao từ dữ liệu huấn luyện. Trong một số môi trường, điều này là đủ tốt. Nhưng trong Debian thì không. Ví dụ, trong việc đóng gói (packaging), mỗi gói nguồn Debian đều là duy nhất. Vì cú pháp đóng gói và các phương pháp thực hành tốt nhất đã thay đổi theo thời gian, một gói do LLM tạo ra sẽ chứa hỗn hợp nội dung trải dài theo tuổi đời của kho lưu trữ, với các tệp watch không hoạt động, các ghi đè (overrides) sai ngữ cảnh, bản quyền tưởng tượng và nhìn chung sẽ không phù hợp để tải lên. Một người đóng góp Debian dày dạn kinh nghiệm đóng gói có thể thấy một số lợi ích hạn chế ở đây, nhưng một người đóng góp mới thì không thể, và họ cũng không biết cách khắc phục. Những lo ngại về chất lượng và độ chính xác tương tự cũng áp dụng rõ ràng cho tất cả các lĩnh vực được liệt kê trong phạm vi của đề xuất này ở trên. Nếu Debian là một tổ chức đóng chỉ bao gồm các chuyên gia trong lĩnh vực không bao giờ rời đi, thì đây có thể không phải là vấn đề; tuy nhiên,

Debian là một dự án không chỉ đơn thuần là mã nguồn: đó là một cộng đồng được xây dựng dựa trên những mối quan tâm chung về phần mềm tự do và giải quyết các vấn đề kỹ thuật. Debian chủ động phát triển cộng đồng này thông qua nhiều phương thức và những người đóng góp mới luôn được khuyến khích tham gia. Việc cho phép các đóng góp từ LLM phá vỡ điều này. Những người đóng góp mới gửi đầu ra của LLM để đánh giá sẽ tạo ra áp lực không cần thiết cho người đánh giá, dẫn đến tình trạng kiệt sức (burnout). Hơn nữa, những người đóng góp mới phụ thuộc vào LLM không thực sự học hỏi và hiểu các chi tiết về quy trình hoặc đóng gói của Debian, vì vậy họ không thể thay thế được một DD (Debian Developer) đã kiệt sức trước đó.

Các công ty LLM gây tổn hại trực tiếp đến cộng đồng phần mềm tự do nói chung bằng cách thu thập (scraping) toàn bộ web để lấy dữ liệu huấn luyện mà không quan tâm đến giấy phép, bản quyền hay thậm chí là các quy ước đã được thiết lập như robots.txt.[6] Điều này đã gây ra tác động tiêu cực lớn đến các tài nguyên web công cộng của Debian, thực chất là một cuộc tấn công Từ chối dịch vụ (DoS) quy mô lớn và liên tục vào các trang web mà nhiều người dùng dựa vào. Kết quả là một số phần trong cơ sở hạ tầng của chúng tôi hoàn toàn không thể truy cập được và các kiểm tra dựa trên JS đã phải được kích hoạt. Nhiều dự án khác cũng bị ảnh hưởng tương tự. Hơn nữa, việc huấn luyện LLM tiêu tốn một lượng tài nguyên đáng kinh ngạc[7], và các hệ thống xác minh người dùng mà chúng tôi buộc phải triển khai để bảo vệ cũng gây lãng phí tài nguyên. Đây là sự coi thường trắng trợn đối với internet như một tài nguyên công cộng, gây lãng phí thời gian của quản trị viên hệ thống, và mặc dù các phiên LLM cá nhân không trực tiếp sử dụng tài nguyên khổng lồ hay DoS web công cộng, nhưng việc chúng có thể được sử dụng là kết quả trực tiếp từ những hành vi phi đạo đức này của các công ty LLM.

Debian có một Bản thỏa thuận xã hội (Social Contract).[8] Ưu tiên của chúng tôi là người dùng và phần mềm tự do. Debian là sự ổn định.[9] Người dùng và các tổ chức chọn Debian vì nó đáng tin cậy và an toàn.

Debian không tồn tại để tạo ra càng nhiều mã nguồn càng tốt, đòi hỏi sự đánh giá thủ công từ số lượng tình nguyện viên con người đang ngày càng giảm, hay để đóng gói mọi phần mềm, hoặc để vội vàng đưa ra các tính năng mới, nhưng đây chính là những gì LLM được sử dụng cho.

Tóm lại, việc cho phép các đóng góp từ LLM là trái với bản thỏa thuận xã hội và mục tiêu chung là tạo ra một hệ điều hành tự do tập trung vào chất lượng và sự ổn định.

Đề xuất

Vì lợi ích không làm xói mòn danh tiếng của Debian hoặc gây tổn hại thêm cho cộng đồng, các đóng góp có sự hỗ trợ của LLM nên bị cấm đưa vào Debian.

Mặc dù quan điểm của chúng tôi là các đóng góp từ LLM trái với các tài liệu đã được Debian phê chuẩn, nhưng để loại bỏ mọi nghi ngờ, chúng tôi đề xuất bổ sung nội dung sau vào Bản thỏa thuận xã hội:

Các vấn đề có thể xảy ra

Các dự án khác đang xem xét các quyết định tương tự đã nhận được một câu trả lời chung: "Làm thế nào các bạn thực thi lệnh cấm đối với các đóng góp từ LLM?" Mặc dù việc thực thi có thể là một thách thức, đây là tuyên bố về ý định của cộng đồng Debian, và chúng tôi tin tưởng cộng đồng này sẽ tuân thủ nó một cách thiện chí.

Trích dẫn

[1] https://www.debian.org/doc/debian-policy/ch-archive.html#copyright-considerations [2] https://www.debian.org/social_contract#guidelines [3] https://web.archive.org/web/20240614004123/https://news.northeastern.edu/2023/11/10/ai-chatbot-hallucinations/ [4] https://web.archive.org/web/20250328154700/https://transformer-circuits.pub/2025/attribution-graphs/biology.html#dives-cot [5] https://www.marketwatch.com/story/openais-sam-altman-tells-salesforces-marc-benioff-that-ai-hallucinations-are-more-feature-than-bug-1c035c52 [6] https://lwn.net/Articles/1008897/ [7] https://tech-insider.org/ai-data-center-power-crisis-2026/ [8] https://www.debian.org/social_contract [9] https://www.debian.org/doc/manuals/debian-reference/pr01.en.html#_what_is_debian

Tuyên bố miễn trừ trách nhiệm

Nguồn

Thảo luận trên GNOME: https://discourse.gnome.org/t/loupe-no-longer-allows-generative-ai-contributions/27327 (CC0) Chính sách AI của Gentoo: https://wiki.gentoo.org/wiki/Project:Council/AI_policy Chính sách AI của Codeberg: https://codeberg.org/Codeberg/org/pulls/1253#issuecomment-19820434

Tài liệu này được viết bởi Matthias Geiger và Jesse Rhodes với sự đóng góp ý kiến từ Sledge và josch, một cách tự nhiên và không có sự hỗ trợ của mô hình ngôn ngữ.

Đề xuất B - Người đề xuất

Lucas Nussbaum [[email protected]] [nội dung đề xuất] [nội dung sửa đổi] [nội dung sửa đổi]

Đề xuất B - Người ủng hộ

Đề xuất B

Lựa chọn 2

Cho phép các đóng góp có sự hỗ trợ của AI

Sử dụng quyền hạn theo mục 4.1 (5) của Hiến pháp, dự án đưa ra tuyên bố sau đây mô tả quan điểm hiện tại của mình về các đóng góp có sự hỗ trợ của AI. Tuyên bố này mô tả quan điểm của dự án tại thời điểm được thông qua. Quan điểm đó có thể phát triển theo thời gian mà không cần phải viện dẫn đến các nghị quyết chung trong tương lai. Quy trình GR vẫn luôn sẵn sàng nếu dự án cần một quyết định và không thể đạt được sự đồng thuận.

Dự án Debian thừa nhận rằng các đóng góp có sự hỗ trợ của AI làm nảy sinh nhiều lo ngại, ví dụ như về chất lượng kỹ thuật, khả năng bảo trì của các đóng góp đó và tình trạng pháp lý của chúng. Bản thân AI cũng làm nảy sinh những lo ngại bổ sung về tác động của nó đối với xã hội nói chung, đối với ngành CNTT và Phần mềm tự do; về tác động môi trường của nó; và các hành vi hung hăng hoặc không tuân thủ của các trình thu thập dữ liệu AI.

Tuy nhiên, nhiều người đóng góp cho Debian thấy các công cụ AI hữu ích khi đóng góp cho Debian, và cuối cùng là để cải thiện Debian.