Debian tranh luận về việc có nên cho phép sử dụng AI trong phát triển phần mềm

Theo tin từ IT ngày 26 tháng 7, các nhà phát triển dự án Debian đã khởi xướng một đề xuất trong tuần này (ngày 24 tháng 7) để thảo luận về việc liệu có cho phép sử dụng các mô hình ngôn ngữ lớn (LLM) để phát triển Debian trong tương lai hay không.

Được biết, đề xuất lần này bao gồm ba phương án: cấm hoàn toàn các mô hình ngôn ngữ lớn hoặc các công cụ AI khác, cho phép những người đóng góp dự án sử dụng AI để hỗ trợ công việc, và từ chối sử dụng mô hình ngôn ngữ lớn cùng AI tạo sinh trong phạm vi khả thi nhất có thể.

IT đính kèm chi tiết ba đề xuất như sau:

Đề xuất A: Cấm hoàn toàn việc sử dụng mô hình ngôn ngữ lớn để gửi mã nguồn phần mềm, tài liệu và thông báo chính thức.

Đề xuất này chủ trương cấm hoàn toàn các mô hình ngôn ngữ lớn và công cụ AI tạo sinh, ngay cả khi đó là nội dung do AI sửa đổi và đã được nhà phát triển xác nhận thủ công cũng không được chấp nhận. Đề xuất cho rằng, mã nguồn do LLM tạo ra không thể xác định rõ quyền sở hữu trí tuệ, đồng thời nguồn dữ liệu huấn luyện của các mô hình AI lớn vẫn còn gây tranh cãi, và trong nhiều trường hợp, nhà phát triển không thể đảm bảo mã nguồn do AI tạo ra hoàn toàn không sao chép nội dung có bản quyền.

Đồng thời, AI có thể sử dụng các API lỗi thời hoặc đưa vào các cách viết đã bị loại bỏ trong mã nguồn được tạo ra, điều này không phù hợp với tiêu chuẩn phát triển của Debian. Hơn nữa, LLM không thực sự hiểu mã nguồn mà chỉ dự đoán các tổ hợp mã có khả năng xuất hiện dựa trên dữ liệu huấn luyện, do đó không thể đảm bảo kết quả tạo ra là hoàn toàn chính xác.

Đề xuất B: Cho phép sử dụng AI hỗ trợ phát triển, nhưng nhà phát triển phải chịu hoàn toàn trách nhiệm.

Đề xuất này cho phép các nhà phát triển sử dụng công cụ AI để hỗ trợ công việc, nhưng phải đảm bảo nội dung gửi lên có thể được phân phối theo giấy phép của Debian. Nhà phát triển cũng cần đảm bảo nội dung do AI tạo ra tuân thủ hoàn toàn các yêu cầu về giấy phép nguồn mở, nếu có chứa mã nguồn của bên thứ ba thì cũng cần phải xác minh độc lập.

Ngoài ra, ngay cả khi sử dụng công cụ AI, trách nhiệm cuối cùng vẫn thuộc về người nhấn nút gửi. Người gửi phải đảm bảo chất lượng mã nguồn và bản quyền tuân thủ các tiêu chuẩn, không được lấy lý do là do AI tạo ra để miễn trừ trách nhiệm, đồng thời phải gắn nhãn "AI generated" (do AI tạo ra).

Đề xuất C: Từ chối sử dụng mô hình ngôn ngữ lớn trong phạm vi khả thi nhất có thể.

Đề xuất này cho rằng mô hình ngôn ngữ lớn tồn tại nhiều vấn đề, không nên trở thành một phần của Debian và không nên thay thế con người. Tuy nhiên, do nhiều nhà phát triển đã sử dụng AI để hỗ trợ lập trình và nhiều dự án thượng nguồn (upstream) có thể đã sử dụng LLM, nên việc cấm hoàn toàn các công cụ AI và mô hình ngôn ngữ lớn là không khả thi.

Đề xuất này yêu cầu tất cả những người đóng góp cho Debian cố gắng tránh sử dụng AI hoặc LLM trong công việc hết mức có thể, nhưng nếu trong một số trường hợp cần phải thỏa hiệp thì sẽ xem xét tùy theo tình hình cụ thể. Đồng thời, tất cả các trao đổi qua email nội bộ, báo cáo lỗi (Bug report) và viết bài phải được thực hiện hoàn toàn bởi con người, không được sử dụng công cụ AI hỗ trợ.

Ngay cả khi công việc đòi hỏi phải sử dụng công cụ AI, đề xuất này cũng yêu cầu nhà phát triển phải công khai. Người bảo trì dự án có thể tự quyết định xem một gói phần mềm nào đó có được phép chứa mã nguồn từ AI hay không, tất cả mọi người phải tuân thủ, nếu vi phạm có thể bị cảnh cáo hoặc chịu các hình thức kỷ luật của cộng đồng.

Thông báo quảng cáo: Các liên kết ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian lựa chọn, kết quả chỉ mang tính chất tham khảo, tất cả các bài viết của IT đều bao gồm thông báo này.