Sam Altman: Cần 'hãm phanh' phát triển AI để xã hội kịp thích nghi

CEO OpenAI, Sam Altman, cho rằng đã đến lúc cần "điều tiết" tốc độ phát triển AI để thế giới có thể sẵn sàng đón nhận nó.

"Chúng ta có thể phải điều tiết tốc độ phát triển AI để có đủ thời gian cho xã hội thích nghi với các cấp độ năng lực mới này," ông chia sẻ với Patrick O’Shaughnessy, người dẫn chương trình podcast Invest Like the Best. Đồng thời, ông cũng đang "cố gắng tìm cách thực hiện điều đó mà không gây cảm giác như đang thao túng quy định cho bất kỳ ai, cũng như không tạo ra sự thông đồng giữa các phòng thí nghiệm tiên phong."

Trước đây, Altman từng tránh tham gia các chiến dịch kêu gọi làm chậm tiến độ AI. Ông cho rằng bức thư ngỏ năm 2023 đề xuất một sự chậm lại tương tự đã "thiếu đi hầu hết các sắc thái kỹ thuật về việc chúng ta cần tạm dừng ở đâu."

Có vẻ như ông đã thay đổi quan điểm, một phần nhờ vào sự cố khi một trong những mô hình tiên tiến của OpenAI đã tìm cách thoát khỏi môi trường điện toán bảo mật và tấn công vào Huggingface, một cơ sở dữ liệu mô hình trực tuyến, bằng cách sử dụng một số lỗ hổng zero-day.

Trên podcast, nhà đồng sáng lập OpenAI gọi đây là một "sự cố mạng đậm chất khoa học viễn tưởng... đây là sự cố bảo mật đầu tiên mà tôi cảm nhận một cách sâu sắc nhất."

Các nhà nghiên cứu tại OpenAI đã tạm dừng huấn luyện mô hình đó trong khi tìm cách giữ cho môi trường sandbox của họ được an toàn. Tuy nhiên, Altman cho biết khi các mô hình ngày càng trở nên mạnh mẽ hơn, nhu cầu "điều tiết" tốc độ phát triển có thể trở thành yếu tố then chốt để triển khai an toàn.

Nhân viên tại OpenAI và Anthropic đã bắt đầu lan truyền một bản kiến nghị sử dụng ngôn từ tương tự. Mặc dù vấn đề an toàn và căn chỉnh mô hình luôn là mối quan tâm trong thế giới AI, nhưng sự xuất hiện của mô hình Mythos đầy năng lực của Anthropic vào đầu năm nay đã biến các giả thuyết thành những vấn đề thực tế.

Tuy nhiên, ngành công nghiệp này đang gặp vấn đề về lòng tin, cùng với những thách thức kinh tế tạo động lực cho các "ông lớn" thổi phồng sự nguy hiểm của hệ thống mà họ tạo ra theo những cách mà các chuyên gia không đồng tình — ví dụ như việc liệu mô hình Fable của Anthropic có nên bị cấm sử dụng trong thời gian ngắn hay không. Tương tự, khi Kimi K3, một mô hình mã nguồn mở trọng số lớn được xây dựng tại Trung Quốc ra mắt, Dean W. Ball, người đứng đầu bộ phận tương lai chiến lược của OpenAI, cho rằng nó đe dọa đến nền kinh tế của các phòng thí nghiệm tiên phong, khiến việc tách biệt các mối lo ngại về an toàn của họ khỏi lợi ích tài chính trở nên khó khăn.

"Tôi nghĩ rằng rất nhiều cuộc thảo luận về mối lo ngại an toàn là có cơ sở, nhưng cũng có nhiều ý kiến đến từ những người thực sự muốn tập trung quyền lực, ngay cả khi chỉ là tiềm thức," Altman suy ngẫm, trong một lời nhận xét được xem là nhắm vào đối thủ của mình, CEO Dario Amodei của Anthropic. "Tôi kinh hãi trước một thế giới nơi những nỗi sợ hãi rất thực tế về AI bị lợi dụng để nói rằng: 'Chỉ nhóm nhỏ người này mới được sở hữu nó vì nó quá nguy hiểm, và chỉ họ mới hiểu nó, nhưng đừng lo, họ sẽ đưa ra những quyết định đúng đắn cho tất cả chúng ta.' Tôi không tin vào điều đó."

Dù vậy, OpenAI vẫn phản đối các nỗ lực xây dựng quy định của chính phủ đối với các mô hình AI, thay vào đó họ ưu tiên cách tiếp cận do ngành công nghiệp dẫn dắt, nơi các phòng thí nghiệm AI sẽ tạo ra các tổ chức có vẻ độc lập để đánh giá tính bảo mật của các mô hình và phương pháp tiếp cận an toàn của các nhà sản xuất.

Thách thức đối với cả cách tiếp cận quy định đó và bất kỳ nỗ lực nào nhằm làm chậm sự phát triển của AI, chính là việc đưa các bên liên quan trong ngành đi đến thống nhất, dù đó là các phòng thí nghiệm tiên phong đối thủ tại Mỹ hay các đối thủ cạnh tranh của họ tại Trung Quốc.

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.

Tim Fernholz là một nhà báo chuyên viết về công nghệ, tài chính và chính sách công. Ông đã theo sát sự trỗi dậy của ngành công nghiệp vũ trụ tư nhân và là tác giả cuốn Rocket Billionaires: Elon Musk, Jeff Bezos and the New Space Race. Trước đây, ông là phóng viên cấp cao tại Quartz, trang tin tức kinh doanh toàn cầu, trong hơn một thập kỷ, và bắt đầu sự nghiệp của mình với tư cách là phóng viên chính trị tại Washington, D.C. Bạn có thể liên hệ hoặc xác minh thông tin từ Tim bằng cách gửi email đến [email protected] hoặc qua tin nhắn mã hóa tới tim_fernholz.21 trên Signal.

Xem tiểu sử