Nhân viên phòng thí nghiệm AI hàng đầu lên tiếng: Cần chậm lại để kiểm soát an toàn

Bức thư ngỏ quan trọng nhất trong nhiều năm qua đã được công bố vào ngày hôm qua.

Bức thư này làm tăng đáng kể hy vọng của tôi rằng chúng ta sẽ xoay xở để không bị diệt vong, và rằng chúng ta sẽ có thể đảm bảo một tương lai tích cực cho chính mình, cả về tác động của nó lẫn bằng chứng mà nó cung cấp cho thấy một bức thư như vậy có thể nhận được mức độ ủng hộ này.

Được ký bởi 1.224 nhân viên của các phòng thí nghiệm tiên phong, bao gồm nhiều nhân vật có tầm ảnh hưởng lớn, và hiện đã được cả OpenAI và Anthropic tán thành, dưới đây là toàn văn bức thư mà tôi cũng hoàn toàn ủng hộ:

AI có thể giúp tạo ra một tương lai tốt đẹp hơn đáng kể, nhưng kết quả đó không được đảm bảo. Các công ty AI hàng đầu thế giới tin rằng họ có thể sắp tự động hóa được việc nghiên cứu AI. Rất khó để dự đoán chính xác điều này sẽ thúc đẩy tiến trình AI nhanh đến mức nào, nhưng có một rủi ro thực sự là việc phát triển năng lực sẽ tăng tốc nhanh chóng vượt quá khả năng hiểu hoặc kiểm soát các hệ thống tạo ra sau đó của chúng ta.

Để hiện thực hóa tiềm năng của AI, ngành công nghiệp, chính phủ và xã hội nói chung có thể cần lựa chọn mua thêm thời gian để giải quyết các rủi ro mới nổi, phát triển các biện pháp an ninh và tăng cường giám sát. Nhưng mỗi công ty—và mỗi quốc gia—đều đang chịu áp lực cạnh tranh gay gắt để không đơn phương làm chậm quá trình tăng tốc đó. Và hiện nay, thế giới vẫn thiếu các công cụ kỹ thuật và quản trị để chủ động điều tiết tiến độ trên toàn bộ lĩnh vực tiên phong.

Dựa trên công việc đang được tiến hành để giám sát việc phát hành các mô hình tiên phong:

Chúng tôi yêu cầu chính phủ Hoa Kỳ hỗ trợ một nỗ lực quốc tế nhằm phát triển các công cụ kỹ thuật và quản trị cần thiết để chủ động điều tiết tiến độ phát triển AI tự động tiên phong.

- 1.224 nhân viên của các công ty AI tiên phong.

Yêu cầu này là chuẩn bị các cơ chế cho sự phối hợp trong tương lai, chứ không phải là lời kêu gọi thay đổi tốc độ phát triển ngay lúc này.

Tôi hoàn toàn ủng hộ yêu cầu đó, nhưng ngay cả khi bạn không đồng ý với yêu cầu này, thì điều này cho thấy một sự thật không thể chối cãi: Nhiều nhân viên của các phòng thí nghiệm lớn dự đoán rằng nghiên cứu AI tự động sẽ sớm tăng tốc, và họ đang kinh hãi trước những gì có thể xảy ra tiếp theo cũng như tốc độ diễn ra của mọi thứ. Chúng ta chưa hề chuẩn bị.

Dù bạn rút ra điều gì khác từ việc này, hãy tin vào phần đó.

Một bức thư rất tốt.

Ai đã ký bức thư.

Chúng ta cần chuẩn bị ngay bây giờ để có lựa chọn thực hiện điều này.

Lời chia sẻ từ một số người đã ký.

Lời chia sẻ từ những người khác.

Một khởi đầu tốt.

Những gì bức thư không nói đến.

Điều gì sẽ xảy ra tiếp theo?

Tôi sẽ tiến xa hơn một chút so với nội dung bức thư, đặc biệt là về sự rõ ràng đối với các rủi ro hiện hữu mà chúng ta đang đối mặt, nhưng bức thư này là:

Một lập trường hoàn toàn đúng đắn về mặt giá trị.

Một bức thư được soạn thảo và thực hiện một cách bậc thầy.

Nằm trên Đường biên Pareto (Pareto Frontier) về những gì một bức thư có thể nói so với những người sẽ ký tên vào đó.

Một bước quan trọng hướng tới việc thực hiện những nỗ lực thực sự để đảm bảo tất cả chúng ta không bị diệt vong.

Bằng chứng mạnh mẽ cho thấy sự ủng hộ đối với việc tất cả chúng ta không bị diệt vong mạnh mẽ hơn chúng ta nghĩ.

Có một vài động thái then chốt liên quan, đặc biệt là:

Phân biệt rõ ràng giữa hành động đặt nền móng cho sự can thiệp trong tương lai, so với việc kêu gọi sự can thiệp đó diễn ra ngay bây giờ.

Phân biệt rõ ràng giữa việc điều tiết tốc độ phát triển, so với các thuật ngữ trước đây như tạm dừng, làm chậm hoặc đóng cửa.

Không nêu đích danh bản chất hoặc phạm vi đầy đủ của các mối đe dọa hiện hữu mà chúng ta phải đối mặt.

Điều này cho phép mọi người ký tên miễn là họ ủng hộ động thái cần thiết hiện tại là chuẩn bị sẵn sàng để hành động, ngay cả khi họ chưa nghĩ rằng có đủ bằng chứng để thực hiện ngay, hoặc chưa đến lúc, và không cần phải tán thành một quan điểm cụ thể nào về những rủi ro mà chúng ta đang đối mặt. Tình hình khá phức tạp, vì vậy người ta có thể và nên ủng hộ tuyên bố và yêu cầu của bức thư này ngay cả khi bạn nghi ngờ về những khẳng định mạnh mẽ hơn.

Đương nhiên, động thái đầu tiên của nhiều người phản đối là phớt lờ những sự phân biệt đó, bất kể họ có nhận ra chúng ngay từ đầu hay không.

Có nhiều niềm tin hợp lý khác nhau về việc liệu có cần can thiệp ngay lập tức để điều tiết tốc độ phát triển hay không, và nếu có thì mức độ can thiệp là bao nhiêu. Điều này đúng ngay cả trước khi chúng ta biết về việc một mô hình nội bộ của OpenAI hack HuggingFace, điều lẽ ra nên cập nhật góc nhìn của bạn. Và điều đó vẫn đúng cho đến hiện tại.

Trong khi tôi tin rằng tuyên bố của bức thư về lý tưởng là không gây tranh cãi. Chúng ta không biết tương lai sẽ mang lại điều gì. Trong nhiều tương lai đó, chúng ta sẽ cần khả năng định hướng các kết quả, bao gồm cả việc điều tiết tốc độ phát triển. Điều này sẽ đòi hỏi sự hợp tác giữa các công ty và cuối cùng là giữa các chính phủ. Nếu chúng ta không đặt nền móng từ trước, sẽ là quá muộn, và chúng ta hoặc sẽ không thể phối hợp, hoặc sẽ phải thực hiện thông qua các cơ chế tồi tệ hơn nhiều.

OpenAI tán thành bức thư này.

OpenAI: Cốt lõi trong sứ mệnh của chúng tôi là tìm cách đảm bảo AI ngày càng mạnh mẽ sẽ mang lại lợi ích cho tất cả mọi người.

Chúng tôi tin rằng, tại một thời điểm nào đó trong tương lai, tốc độ tăng tốc AI đối với việc phát triển các mô hình tiên phong có thể cao đến mức thế giới sẽ cần phải điều tiết tốc độ tiến bộ của AI.

Chúng tôi hy vọng sẽ đóng góp vào công việc do chính phủ Hoa Kỳ dẫn đầu, cùng với các phòng thí nghiệm khác và cộng đồng mã nguồn mở, để phát triển các công cụ và cơ chế có thể biến điều đó thành hiện thực.

Các nhân vật chủ chốt từ OpenAI đã ký tên bao gồm Giám đốc Khoa học Jakub Pachocki, Giám đốc Nghiên cứu Mark Chen, Đồng sáng lập kiêm Trưởng bộ phận Khả năng phục hồi AI tại OpenAI Foundation Wojciech Zaremba, Roon, Trưởng bộ phận Tương lai Chiến lược Dean Ball, Trưởng bộ phận An toàn Saachi Jain, và cựu Trưởng bộ phận Căn chỉnh Sứ mệnh Joshua Achiam.

Jake Halloran: Việc Roon ký vào bức thư với tư cách là roon nghe có vẻ khá ấn tượng.