Chính phủ đã đánh giá độ an toàn của các mô hình AI tiên tiến từ OpenAI như thế nào?

OpenAI đang triển khai Sol, mô hình ngôn ngữ lớn (LLM) tiên tiến nhất của họ, để công chúng tiếp cận rộng rãi. Sol được coi là ngang hàng với Fable của Anthropic, một mô hình mà các khả năng (hoặc quyền sở hữu) của nó đã gây áp lực lớn đến mức Nhà Trắng từng tạm thời cấm công chúng tiếp cận.

Vậy làm thế nào để những mô hình này được cấp phép phát hành? Câu trả lời ngắn gọn là: Không ai chắc chắn cả.

"Thành thật mà nói, tôi không nắm rõ các quy trình chính xác đó, vì vậy đúng là tôi không cảm thấy mình có đủ thông tin để khẳng định liệu chúng có thỏa đáng hay không," Mina Narayanan, chuyên gia phân tích nghiên cứu cấp cao tại Trung tâm Công nghệ Mới nổi và An ninh thuộc Đại học Georgetown, chia sẻ với TechCrunch. "Anthropic có nói rằng họ đã thảo luận với chính phủ, rằng họ đã phát triển một bộ phân loại để phát hiện các nỗ lực bẻ khóa (jailbreak) và họ đã triển khai các chiến lược phòng thủ để ngăn chặn các vụ bẻ khóa trong tương lai, nhưng chính xác cuộc đối thoại giữa chính phủ với Anthropic và OpenAI diễn ra như thế nào thì vẫn chưa rõ ràng."

Dean W. Ball, cựu cố vấn chính sách của Trump, người hiện đang làm việc cho OpenAI, đã viết trong bản tin của mình vào tháng trước rằng "không ai biết các yêu cầu để được cấp phép là gì".

Andy Konwinski, một nhà khoa học máy tính đồng sáng lập Databricks, Perplexity và Viện Laude, cho biết ông chưa bao giờ nói chuyện với bất kỳ ai hiểu rõ quy trình này, ngay cả với các nhân viên tại các phòng thí nghiệm tiên phong. "Đây là một vấn đề mang tính sống còn," ông nói với TechCrunch. "Dù có an toàn hay không, vấn đề nằm ở chỗ ai là người có quyền đưa ra quyết định—ai là người kiểm soát và quyết định các quyền truy cập?"

Sau 18 tháng chính quyền Trump cầm quyền, vẫn còn rất ít sự rõ ràng về cách thức tiến hành, bất chấp—hoặc theo một số nhà phê bình là do—các nhân vật trong ngành đang thiết lập chính sách. Tháng trước, sau nhiều tuần đấu đá nội bộ, một sắc lệnh hành pháp đã được ban hành nhằm vạch ra lộ trình đánh giá các mô hình tiên phong, nhưng các chi tiết cụ thể vẫn chưa được bổ sung, ngoại trừ những gì sẽ không tồn tại. "Sẽ không có một FDA cho AI," Sriram Krishnan, cựu đối tác của Andreesen Horowitz, người từng là cố vấn cấp cao về AI tại Nhà Trắng cho đến tháng trước, nói với tờ Financial Times.

Đáng chú ý là vẫn chưa có sự đồng thuận về loại mô hình nào cần sự giám sát của chính phủ, hoặc cơ quan nào nên thực hiện các đánh giá đó. Hiện tại, Trung tâm Tiêu chuẩn và Đổi mới AI thuộc Bộ Thương mại dường như đang dẫn đầu, nhưng sắc lệnh hành pháp yêu cầu sáu cơ quan nội các phải xác định quy trình cuối cùng vào đầu tháng 8. Những gì xuất hiện trong thời gian chờ đợi này, ở mức tốt nhất, chỉ là các giải pháp tạm thời.

CEO Sam Altman của OpenAI cho biết trên CNBC rằng quy trình này bao gồm các cuộc trò chuyện với các quan chức như Bộ trưởng Thương mại Howard Lutnick, Bộ trưởng Tài chính Scott Bessent và Giám đốc an ninh mạng quốc gia Hoa Kỳ Sean Cairncross, nhưng không rõ ai là các chuyên gia đã kiểm tra mô hình và họ đã thực hiện điều đó như thế nào. OpenAI từ chối chia sẻ chi tiết về quy trình của chính phủ với TechCrunch, nhưng đã dẫn chứng kết quả từ một số đánh giá bên ngoài bởi các tổ chức như UK AISI, SecureBio và Irregular trong thẻ an toàn của mô hình mới nhất.

Tương tự như đợt triển khai Fable của Anthropic, OpenAI đã cho chính phủ và một số người dùng chọn lọc xem trước mô hình trước khi phát hành rộng rãi, nhưng chúng ta không biết tất cả những người dùng đó là ai hoặc họ được chọn như thế nào. Trong một bài đăng trên blog vào cuối tháng 6, công ty cho biết "chúng tôi không tin rằng quy trình tiếp cận của chính phủ kiểu này nên trở thành mặc định trong dài hạn", đồng thời cho biết họ sẽ làm việc với chính phủ để phát triển một lộ trình khác trong tương lai.

Tuy nhiên, bối cảnh của những cuộc trò chuyện đó bao gồm việc Altman được cho là đã đề nghị tới 5% vốn cổ phần của OpenAI cho cái gọi là "Tài khoản Trump" của chính quyền, và vai trò của chủ tịch OpenAI Greg Brockman với tư cách là nhà tài trợ lớn nhất được công khai cho chiến dịch chính trị giữa nhiệm kỳ của Trump. Rất khó để các nhà quan sát bên ngoài tách biệt những hoạt động đó khỏi cách tiếp cận có vẻ nhẹ nhàng hơn của chính phủ trong việc quản lý Sol.

Mặt khác, Fable của Anthropic đã bị rút khỏi quyền truy cập rộng rãi trong thời gian ngắn khi chính phủ Hoa Kỳ cấm công dân nước ngoài sử dụng, một phần vì những lo ngại thực sự về việc người dùng bẻ khóa mô hình để truy cập vào các khả năng tấn công mạng, và một phần do xung đột cá nhân giữa Anthropic và chính quyền Trump. Mối đe dọa về lệnh cấm xuất khẩu có thể cũng đã khiến OpenAI hợp tác hơn với các yêu cầu (chưa được biết đến) của chính phủ.

Từ góc độ ngành, một cách tiếp cận quản lý không can thiệp có vẻ tốt, nhưng việc phụ thuộc vào các mối quan hệ cá nhân với các quan chức chính quyền sẽ tạo ra sự không chắc chắn và những động cơ sai lệch.

Konwinski nói với TechCrunch rằng ông lo ngại các chuyên gia thực sự trong lĩnh vực công nghệ này—"các nhà nghiên cứu an toàn, nhà nghiên cứu căn chỉnh, nhà nghiên cứu khả năng diễn giải, cũng như những người làm dữ liệu và những người từ khắp mọi tầng lớp"—đang không đóng vai trò đủ lớn trong quy trình phát hành mô hình.

Konwinski lập luận rằng một "không gian chung mở" (open commons) là cách tốt nhất để thực sự cân bằng giữa an toàn và đổi mới. Ông chỉ ra các mô hình như FDA, NIH hoặc các phòng thí nghiệm quốc gia, nơi tập hợp các nhà nghiên cứu, quan chức chính phủ và các công ty tư nhân để đạt được sự đồng thuận về các vấn đề an toàn.

Một phần của vấn đề xuất phát từ các động cơ của chủ nghĩa tư bản đã thúc đẩy các nhà nghiên cứu AI trong hơn một thập kỷ qua, và đã được thể hiện tại tòa án trong vụ kiện của Elon Musk thách thức cấu trúc doanh nghiệp của OpenAI. Ball chỉ ra rằng bản chất của kinh doanh AI đòi hỏi các công ty phải thu hồi phần lớn chi phí đào tạo ngay sau khi mô hình của họ được phát hành và vượt xa đối thủ cạnh tranh.

"Ngay cả khi ý định của họ là tốt, vẫn có những nghĩa vụ pháp lý và trách nhiệm ủy thác rất rõ ràng được tích hợp ngay vào các quy trình vận hành," Konwinski chỉ ra.

Trong bài viết của mình, Ball lập luận rằng con đường phía trước sẽ phụ thuộc vào các tổ chức kiểm toán bên thứ ba, được chính phủ cấp phép, để đánh giá cách tiếp cận an toàn của các phòng thí nghiệm tiên phong. Konwinski cũng rất lạc quan về các hình thức tổ chức mới như các tổ chức nghiên cứu tập trung, có thể giúp các chuyên gia khách quan hơn từ giới học thuật và thế giới phi lợi nhuận tiếp cận và đánh giá các mô hình tiên phong.

Hiện tại, sự bí mật xung quanh việc phát triển AI sẽ không biến mất, nhưng nó cũng sẽ gieo rắc những thách thức chính trị cho một ngành công nghiệp mà người Mỹ ngày càng nhìn nhận với sự hoài nghi. "Không có cảm giác rằng những người có trách nhiệm đang thúc đẩy những thay đổi này," giáo sư khoa học máy tính Remzi Arpaci-Dusseau của Đại học Wisconsin-Madison cho biết vào tuần trước tại hội nghị Open Frontier.

Tại cùng sự kiện đó, David Siegel, nhà khoa học máy tính đã sáng lập Two Sigma, một trong những quỹ đầu cơ định lượng thành công nhất, đã yêu cầu những người tham dự "hãy tưởng tượng một tình huống, mà tôi nghĩ sẽ rất tồi tệ, [nơi] một số ít các công ty kiểm soát công nghệ; chính phủ, trong các phòng thí nghiệm bí mật của họ, đang đánh giá xem công nghệ đó có phù hợp để sử dụng hay không; và công chúng cũng như cộng đồng khoa học thực sự không có bất kỳ quyền truy cập nào vào những thứ đó."

Có vẻ như chúng ta không cần phải tưởng tượng nữa.

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.