OpenAI bổ nhiệm chuyên gia cảnh báo rủi ro 'diệt vong' vào Hội đồng quản trị

Theo giờ Bắc Kinh ngày 10 tháng 9, tờ Business Insider đưa tin, OpenAI thông báo vào thứ Tư rằng Paul Christiano đã gia nhập hội đồng quản trị của quỹ OpenAI. Ngay sau đó, Christiano đã thẳng thắn chia sẻ về những rủi ro mà chúng ta phải đối mặt trong kỷ nguyên siêu trí tuệ AI.

Trước đây, Christiano từng phụ trách nghiên cứu về căn chỉnh (alignment) tại OpenAI, sau đó chuyển sang làm việc cho chính phủ liên bang Hoa Kỳ với vai trò giám đốc an toàn tại Trung tâm Đổi mới và Tiêu chuẩn AI thuộc Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ (NIST).

Vào thứ Tư, ông chia sẻ trên nền tảng X rằng rủi ro mất kiểm soát đối với các hệ thống AI "hiện đã rất nghiêm trọng" và cần phải nỗ lực nhiều hơn nữa để đảm bảo chúng phù hợp với lợi ích của con người. Ngoài việc là thành viên hội đồng quản trị của quỹ OpenAI, ông cũng sẽ tham gia Ủy ban An toàn và Bảo mật của hội đồng quản trị.

"Nếu chúng ta không thể xây dựng siêu trí tuệ dưới các cơ chế căn chỉnh mạnh mẽ hơn, tôi dự đoán rằng chúng ta sẽ mất quyền kiểm soát nó vĩnh viễn," ông nói khi công bố vai trò mới tại OpenAI. "Nếu điều đó xảy ra, phần lớn nhân loại có thể sẽ mất mạng. Tôi cho rằng chúng ta cần phối hợp ở cả cấp độ quốc gia và quốc tế để đảm bảo sự đồng bộ trên toàn cầu và giảm thiểu rủi ro xuống mức có thể chấp nhận được."

Christiano đã làm rõ các mối đe dọa do AI gây ra và cảnh báo rằng nhân loại đang đối mặt với rủi ro cận kề, có khả năng mất quyền kiểm soát đối với các hệ thống AI.

"Dựa trên quỹ đạo phát triển năng lực AI gần đây và những khó khăn liên tục trong công tác căn chỉnh, tôi hiện cho rằng có một rủi ro thực tế là sự tăng tốc nhanh chóng của năng lực AI sẽ dẫn đến tình trạng mất kiểm soát thảm khốc và không thể đảo ngược trong tương lai gần," Christiano viết. "Tôi không cho rằng toàn bộ ngành công nghiệp AI, bao gồm cả OpenAI, hiện đang đi đúng hướng để giảm thiểu rủi ro này xuống mức có thể chấp nhận được."

Ông cho biết việc mình gia nhập OpenAI "không có nghĩa là đặc biệt tán thành hay chỉ trích các biện pháp an toàn hiện tại của OpenAI", nhưng ông hy vọng tất cả các phòng thí nghiệm AI tiên phong đều có thể tăng cường giám sát an toàn. Ông cũng nhấn mạnh rằng để giảm thiểu rủi ro do AI gây ra, cần phải có sự phối hợp trên phạm vi toàn cầu.

Trước đó, các nhà nghiên cứu AI đã liên tục cảnh báo về những rủi ro từ siêu trí tuệ và "điểm kỳ dị" (singularity). "Điểm kỳ dị" là thời điểm mà các hệ thống AI vượt qua trí tuệ con người, bắt đầu tự cải tiến và phát triển với tốc độ mà con người không còn có thể dự đoán hay kiểm soát được nữa. CEO của OpenAI, Sam Altman, đã phát biểu vào tháng 7 năm nay rằng "điểm kỳ dị" đã đến.

Bùng nổ trí tuệ

Christiano cho biết ông tin rằng rủi ro mất kiểm soát AI hiện nay lớn như vậy là do năng lực của AI trong việc tự nghiên cứu AI ngày càng tăng, điều này có thể dẫn đến một "cuộc bùng nổ trí tuệ nhanh chóng". Ông cũng cho biết cách thức huấn luyện AI thông qua học tăng cường (reinforcement learning) đồng nghĩa với việc các mô hình này được dạy để "thu thập càng nhiều phần thưởng càng tốt".

"Về mặt lý thuyết, từ lâu đã tồn tại khả năng học tăng cường có thể thúc đẩy các tác nhân AI phá vỡ sự kiểm soát của con người, tìm kiếm quyền lực và tài nguyên, cũng như che giấu hành vi của chính mình nhằm theo đuổi các mục tiêu liên quan đến phần thưởng nhưng không nhất quán với mục tiêu của con người. Các bằng chứng công khai từ những sự kiện gần đây cho thấy đây không chỉ là một khả năng trên lý thuyết," ông nói.

Christiano cho rằng các công ty AI tiên phong vẫn còn cơ hội để đối phó với tình hình này, bao gồm việc tăng cường phối hợp, làm chậm tiến độ phát triển khi cần thiết, áp dụng các tiêu chuẩn an toàn chung và minh bạch trong việc chia sẻ thông tin về rủi ro cũng như các biện pháp giảm thiểu rủi ro.

Chỉ chưa đầy một ngày sau tuyên bố của ông, một nhà nghiên cứu AI khác cũng đã đưa ra cảnh báo nghiêm trọng về AI. Jacob Coxon, nhà nghiên cứu tại Anthropic từng làm việc tại OpenAI, cho biết vào tối thứ Ba rằng ông đã từ chức và cáo buộc cả hai công ty đều không hành động một cách có trách nhiệm.

"Họ đang lao điên cuồng về phía siêu trí tuệ tự cải tiến, lấy mạng sống của chúng ta ra làm canh bạc," Coxon viết trên X.

Trong nhiều năm qua, OpenAI đã mất đi nhiều nhà nghiên cứu an toàn, trong đó một số người đã đặt câu hỏi về cam kết phát triển AI an toàn của công ty này.