Lo ngại an toàn AI gia tăng: Ba 'cây đại thụ' trong ngành đồng lòng ủng hộ mã nguồn mở

Khi các dự án như Pacing the Frontier hướng tới các phòng thí nghiệm lớn như một cách để giữ an toàn cho nghiên cứu AI, thì các mô hình mã nguồn mở (open-source) đã trở thành một điểm nhức nhối đối với ngành công nghiệp này. Với việc được phân phối miễn phí và gần như không có sự kiểm soát về cách thức sử dụng, các mô hình trọng số mở (open-weight) không dễ bị kiểm soát, khiến một số phòng thí nghiệm coi chúng là mối đe dọa thực sự đáng sợ.

Tuy nhiên, tại hội nghị Ai4 ở Las Vegas tuần trước, ba trong số những nhà nghiên cứu AI được kính trọng nhất thế giới — người đoạt giải Nobel Geoffrey Hinton, CEO kiêm đồng sáng lập World Labs Fei-Fei Li, và đồng sáng lập Coursera Andrew Ng — đã lên tiếng về vấn đề này. Dù có những bất đồng về các chiến thuật cụ thể, cả ba đều đưa ra những lập luận mạnh mẽ cho việc duy trì sự cởi mở trong AI.

Đối với ba diễn giả này, mối quan tâm cốt lõi là việc để một số ít các công ty AI lớn kiểm soát tốc độ phát triển. Khi một vài công ty kiểm soát quyền truy cập vào công nghệ, giống như cách Apple và Google làm với hệ điều hành di động, sự đổi mới có thể chậm lại và các công ty kiểm soát nền tảng có thể gây ảnh hưởng đến những gì được xây dựng trên đó.

Andrew Ng cho biết ông lo ngại về một động lực tương tự đang nảy sinh trong lĩnh vực AI. “Tôi không muốn có những người gác cổng,” Ng nói. “Điều đó hạn chế cách tất cả chúng ta tiếp cận AI.”

Các công ty có động lực để bảo vệ lợi thế cạnh tranh của mình, bao gồm cả việc gây ảnh hưởng đến các quy tắc quản lý ngành. Điều đó có thể tạo ra một động lực mà trong đó chỉ những công ty lớn nhất, có nguồn vốn tốt nhất với đủ tiềm lực mới có thể xây dựng được các hệ thống AI tiên tiến nhất.

Giải pháp của Ng là duy trì nhiều nhà cung cấp, với các mô hình và công ty cạnh tranh thay vì để một vài đơn vị thống trị lĩnh vực này. “Nếu tôi phải đưa ra một đơn thuốc, đó sẽ là thúc đẩy sự cởi mở,” Ng nói, “bởi vì AI là một công nghệ tuyệt vời và tôi muốn nó nằm trong tay của mọi người.”

Nhưng không phải ai cũng đồng ý rằng các mô hình trọng số mở sẽ giúp duy trì trạng thái đó. Đặc biệt, Hinton đã vạch ra sự khác biệt giữa phần mềm mã nguồn mở (cho phép kiểm tra và sửa đổi mã nguồn cơ bản) và các mô hình trọng số mở (công khai các tham số của một mô hình AI đã được huấn luyện).

“Mã nguồn mở rất tuyệt. Bạn cho mọi người xem mã, và rất nhiều người nhìn vào các dòng mã đó rồi nói: ‘Ồ, có lỗi kìa’. Trọng số mở có nghĩa là bạn huấn luyện một mô hình lớn rồi đưa các trọng số đó cho mọi người. Điều đó rất khác biệt,” Hinton nói. “Tôi từng phản đối trọng số mở vì nó giúp mọi người dễ dàng lấy các mô hình nền tảng lớn này — vốn rất tốn kém để huấn luyện — và với chi phí thấp hơn nhiều, họ có thể huấn luyện chúng để làm những việc xấu như tấn công mạng.”

Nhưng bất kể những dè dặt của mình, Hinton thừa nhận rằng các mô hình trọng số mở đã trở thành một phần cố định của AI. “Tôi nghĩ cuộc chiến đó đã ngã ngũ. Chúng ta hiện đã có các mô hình trọng số mở, vì vậy rào cản để nhiều người tiếp cận được các mô hình lớn này — vốn là chi phí huấn luyện các mô hình nền tảng — đã biến mất. Đã quá muộn rồi.”

Tuy nhiên, chấp nhận thực tế không có nghĩa là phớt lờ các rủi ro. Quan điểm của Hinton rất rõ ràng: AI sẽ tiếp tục tiến bộ, và ông cho rằng đó phần lớn là một điều tốt. Ông nói rằng nó sẽ thúc đẩy năng suất cũng như cải thiện giáo dục và chăm sóc sức khỏe. “Lo lắng về những tác động xấu có thể xảy ra của AI và những điều mà các thực thể thông minh có thể làm khi chúng thông minh hơn chúng ta, tôi không nghĩ đó là điều bất công. Tôi nghĩ việc dán nhãn bất cứ ai có suy nghĩ như vậy là kẻ gieo rắc nỗi sợ hãi mới là bất công,” Hinton nói thêm.

Ng có một góc nhìn khác. Ông lập luận rằng câu hỏi không phải là liệu các mô hình mở có rủi ro hay không, mà là ai kiểm soát quyền truy cập và ai sẽ thắng trên thị trường. Bất cứ ai xây dựng được mô hình rẻ hơn sẽ có lợi thế. Ông cảnh báo, nếu các mô hình trọng số mở của Trung Quốc được áp dụng rộng rãi trên khắp châu Á, châu Phi và/hoặc các nước đang phát triển, chúng có thể ảnh hưởng đến cách hàng tỷ người tiếp cận các tư tưởng về dân chủ, tự do và nhân quyền.

“Một điều tôi hy vọng chúng ta làm là khuyến khích khả năng cạnh tranh của Mỹ và AI mã nguồn mở. Hóa ra AI là một nguồn sức mạnh mềm to lớn. Bạn có thể thấy cách mô hình của Trung Quốc đạt được thành tựu to lớn ở châu Phi chẳng hạn,” Ng nói. “Nhưng mối lo ngại của tôi là do tất cả các hoạt động vận động hành lang ở Mỹ và việc gieo rắc nỗi sợ hãi, việc xây dựng AI mã nguồn mở tại Mỹ đang chật vật cạnh tranh với các mô hình trọng số mở đến từ Trung Quốc. Mối lo của tôi là nếu Trung Quốc tìm ra cách xây dựng AI tiết kiệm chi phí hơn về mặt cơ bản, thì những thứ tiết kiệm chi phí hơn sẽ có lợi thế áp dụng trong kinh doanh.”

Li phản bác cách đặt vấn đề đó. “Việc tạo ra sự phân đôi giữa hoàn toàn mở và hoàn toàn đóng là rất nguy hiểm,” bà nói. “Trong các hệ thống phần mềm phức tạp cũng như các hệ thống khoa học, mọi thứ đều tinh tế hơn nhiều.”

Li lấy vật lý hạt nhân làm ví dụ: các bài báo khoa học được công bố công khai, nhưng uranium lại được quản lý, trong khi công việc trong phòng thí nghiệm nằm ở đâu đó giữa hai thái cực này. Bà giải thích rằng bài học ở đây là sự cởi mở không nhất thiết phải là lựa chọn được ăn cả ngã về không. Các lớp khác nhau của hệ sinh thái có thể vận hành ở các mức độ cởi mở khác nhau.

Bà cũng nhấn mạnh các mối quan hệ hợp tác giữa các tổ chức công và tư, chẳng hạn như Dự án Bản đồ Gen Người (Human Genome Project). Bà cho biết, kiến thức thu được đã trở thành một nền tảng mà người khác có thể xây dựng dựa trên đó, cho phép các công ty dược phẩm kiếm lợi nhuận, các nhà khoa học thúc đẩy công việc của họ và xã hội được hưởng lợi.

“Vì vậy, tôi nghĩ chúng ta phải sử dụng [AI] như một loại cơ sở hạ tầng như vậy,” Li nói. “Chúng ta cần một số mức độ cởi mở, cả trong khám phá khoa học, giáo dục, quan hệ đối tác toàn cầu, cũng như các mô hình kinh doanh sinh lợi cho các doanh nhân. Nhưng chúng ta cũng sẽ chấp nhận các hệ thống mã nguồn đóng. Cuộc tranh luận này, đặc biệt là ở mức độ bao quát kiểu ‘chúng ta chỉ có thể chấp nhận một cái’, là một cuộc tranh luận sai lầm. Chúng ta cần đạt đến mức độ tinh tế hơn.”

Tuy nhiên, tất cả đều đồng ý rằng cần có một mức độ quy định nhất định để giữ AI đi đúng hướng. “Điều chúng ta muốn làm là phát triển AI theo hướng giúp ích cho con người, và quy định sẽ giúp chúng ta làm điều đó,” Hinton nói. “Bạn không thể để những người như Elon Musk và Mark Zuckerberg quyết định cách thức AI nên được thực hiện.”

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.