Hinton, Fei-Fei Li và Andrew Ng đồng loạt lên tiếng: Cần duy trì sự cởi mở cho AI

Theo tin từ IT ngày 13 tháng 8, trang TechCrunch đưa tin hôm nay (13/8) rằng chủ nhân giải Nobel Geoffrey Hinton, đồng sáng lập kiêm CEO của World Labs Lý Phi Phi (Fei-Fei Li) và đồng sáng lập Coursera Andrew Ng gần đây đã lần lượt trình bày quan điểm của mình về sự cởi mở trong AI.

Cả ba đã thảo luận về vấn đề này tại hội nghị Ai4 diễn ra ở Las Vegas vào tuần trước. Mặc dù các giải pháp cụ thể có sự khác biệt, nhưng cả ba đều đưa ra những lý do xác đáng cho thấy AI vẫn cần duy trì một mức độ cởi mở nhất định.

Điều mà cả ba lo ngại là tốc độ phát triển của công nghệ AI cuối cùng sẽ bị kiểm soát bởi một số ít các tập đoàn lớn. Khi một vài doanh nghiệp độc quyền các kênh tiếp cận công nghệ, tình trạng tương tự như cách Apple và Google kiểm soát hệ điều hành di động có thể xảy ra: tốc độ đổi mới suy giảm, đồng thời chủ sở hữu nền tảng cũng có thể gây ảnh hưởng đến những gì mà các nhà phát triển được phép tạo ra trên nền tảng đó.

Các doanh nghiệp vốn dĩ luôn muốn bảo vệ lợi thế cạnh tranh của mình, và họ cũng có thể đạt được mục đích này thông qua việc gây ảnh hưởng đến các quy tắc ngành. Về lâu dài, các hệ thống AI tiên tiến nhất có thể chỉ nằm trong khả năng phát triển của những doanh nghiệp có quy mô lớn nhất và nguồn vốn hùng hậu nhất.

Hinton không cho rằng các mô hình mở trọng số (open-weight models) nhất thiết sẽ giúp duy trì cục diện cạnh tranh này. Ông đặc biệt phân biệt giữa phần mềm mã nguồn mở (open-source software) và mô hình mở trọng số: phần mềm mã nguồn mở sẽ công khai mã nguồn cơ sở để bất kỳ ai cũng có thể kiểm tra và sửa đổi; trong khi mô hình mở trọng số là việc công khai trực tiếp các tham số của mô hình sau khi đã hoàn tất quá trình huấn luyện.

Hinton cho biết: "Mã nguồn mở là điều tốt. Sau khi mã nguồn được công khai, nhiều người có thể kiểm tra từng dòng một và chỉ ra rằng: 'Ồ, ở đây có một lỗ hổng'. Tuy nhiên, mở trọng số hoàn toàn là một câu chuyện khác. Bạn huấn luyện một mô hình lớn trước, sau đó giao trọng số mô hình cho tất cả mọi người. Tôi phản đối việc mở trọng số vì chi phí huấn luyện các mô hình nền tảng lớn là rất cao, nhưng sau khi có được mô hình, người ta có thể tiếp tục huấn luyện với chi phí thấp hơn nhiều, khiến mô hình đó thực hiện các hoạt động độc hại như tấn công mạng."

Đồng thời, Hinton thừa nhận rằng cuộc tranh luận về việc liệu có nên cho phép các mô hình mở trọng số hay không thực tế đã kết thúc. "Tôi nghĩ cuộc tranh luận đó đã thua rồi. Các mô hình mở trọng số đã tồn tại, và rào cản chính ngăn cản nhiều người tiếp cận các mô hình lớn trước đây – tức là chi phí huấn luyện mô hình nền tảng – đã biến mất. Bây giờ đã quá muộn rồi."

Việc chấp nhận rằng các mô hình mở trọng số đã tồn tại không có nghĩa là có thể bỏ qua những rủi ro tiềm ẩn. "Tôi cho rằng việc lo ngại về những hậu quả xấu mà AI có thể gây ra, cũng như những gì mà các tác nhân thông minh hơn con người có thể làm, là không hề thái quá. Việc gán ghép tất cả những người có quan điểm này là đang gieo rắc nỗi sợ hãi mới là điều không công bằng."

Hinton tin rằng AI sẽ tiếp tục tiến bộ và nhìn chung sẽ mang lại những tác động tích cực trong các lĩnh vực như nâng cao năng suất, cải thiện giáo dục và y tế.

Andrew Ng lại có mối quan tâm khác. Ông cho rằng vấn đề thực sự không nằm ở chỗ các mô hình mở có rủi ro hay không, mà là ai nắm giữ các kênh tiếp cận mô hình và ai cuối cùng có thể chiếm lĩnh thị trường; bên nào có thể phát triển mô hình với chi phí thấp hơn sẽ giành được lợi thế. "Tôi hy vọng chúng ta có thể thúc đẩy năng lực cạnh tranh của Mỹ và AI mã nguồn mở. Điều tôi lo ngại là các hoạt động vận động hành lang và thổi phồng nỗi sợ hãi trong nội bộ nước Mỹ đang khiến AI mã nguồn mở của Mỹ ngày càng khó cạnh tranh với các mô hình mở trọng số do Trung Quốc tung ra."

Andrew Ng cũng ủng hộ việc duy trì nhiều nhà cung cấp AI, để các mô hình và doanh nghiệp cạnh tranh lẫn nhau, tránh việc thị trường bị kiểm soát bởi một số ít người chơi. "Nếu chỉ được đưa ra một lời khuyên, tôi sẽ chọn thúc đẩy sự cởi mở. AI là một công nghệ tuyệt vời, tôi hy vọng tất cả mọi người đều có thể nắm bắt nó. Tôi không muốn thấy trong lĩnh vực AI xuất hiện những 'người gác cổng' hạn chế quyền tiếp cận và sử dụng AI của tất cả mọi người."

Lý Phi Phi cho rằng không nên đơn giản hóa vấn đề thành lựa chọn một trong hai giữa mở và đóng. "Việc biến vấn đề thành sự đối lập nhị nguyên giữa hoàn toàn mở và hoàn toàn đóng là rất nguy hiểm. Dù là hệ thống phần mềm phức tạp hay hệ thống khoa học, tình hình thực tế đều tinh tế hơn nhiều."

Lý Phi Phi lấy vật lý hạt nhân làm ví dụ: các bài báo khoa học có thể được công bố rộng rãi, uranium phải chịu sự quản lý, còn nghiên cứu trong phòng thí nghiệm thì nằm ở giữa hai thái cực đó. Bà cho rằng sự cởi mở không chỉ là lựa chọn giữa "hoàn toàn mở" và "hoàn toàn đóng", các tầng khác nhau của hệ sinh thái AI hoàn toàn có thể áp dụng các mức độ cởi mở khác nhau.

Bà cũng lấy Dự án Bản đồ Gen người (Human Genome Project) làm ví dụ để minh họa giá trị của sự hợp tác giữa các tổ chức công và tư: kiến thức tạo ra từ dự án này trở thành nền tảng để các tổ chức khác tiếp tục công việc, các công ty dược phẩm có thể kiếm lợi nhuận từ đó, các nhà khoa học có thể thúc đẩy nghiên cứu sâu hơn và xã hội cũng được hưởng lợi.

"Tôi cho rằng chúng ta phải coi AI như một loại cơ sở hạ tầng tương tự. Trong khám phá khoa học, giáo dục và hợp tác toàn cầu, chúng ta cần một mức độ cởi mở nhất định, đồng thời cũng cần để các doanh nhân có được mô hình kinh doanh có thể sinh lời. Các hệ thống đóng cũng có thể tồn tại. Đặc biệt, những cuộc tranh luận quá chung chung kiểu 'chỉ có thể chấp nhận một trong hai mô hình' bản thân nó đã là một mệnh đề sai lầm. Chúng ta cần những cuộc thảo luận chi tiết hơn."

Cả ba đều đồng ý rằng một mức độ quản lý nhất định vẫn là điều kiện cần thiết để đảm bảo AI phát triển theo đúng hướng. Hinton cho biết: "Chúng ta muốn AI phát triển theo hướng giúp ích cho nhân loại, và sự quản lý có thể giúp chúng ta làm được điều đó. Không thể giao quyền quyết định về cách thức phát triển AI cho những người như Musk hay Zuckerberg."