Làn sóng rời bỏ OpenAI: Trưởng bộ phận an toàn hệ thống từ chức, nội bộ bất ổn

Theo tin từ IT ngày 14 tháng 7, tờ *Business Insider* đưa tin vào ngày 13 rằng Johannes Heidecke, người đứng đầu nhóm hệ thống an toàn tại OpenAI, sắp sửa rời công ty. Trong những năm gần đây, OpenAI đã chứng kiến sự ra đi của nhiều nhân sự thuộc các nhóm an toàn và căn chỉnh (safety and alignment).

Giám đốc nghiên cứu của OpenAI, Bob McGrew, chia sẻ với *Business Insider*: "Chúng tôi cảm ơn những đóng góp của Johannes cho OpenAI. Chúng tôi rất kỳ vọng vào giai đoạn phát triển mới của công tác nghiên cứu và an toàn dưới sự dẫn dắt của Mia Glaese."

OpenAI cho biết, Glaese sẽ đảm nhận vị trí Phó chủ tịch phụ trách nghiên cứu và an toàn, đồng thời thúc đẩy việc tích hợp sâu hơn các hoạt động an toàn vào các nhóm nghiên cứu.

Động thái điều chỉnh này cho thấy OpenAI đang suy nghĩ lại về mối quan hệ giữa nghiên cứu và an toàn. Một phát ngôn viên của OpenAI cho biết: "Chỉ khi hiểu rõ các năng lực cơ bản của mô hình mới có thể đưa ra các quyết định an toàn đúng đắn, và chỉ khi hiểu rõ các tác động an toàn tiềm ẩn mới có thể đưa ra các quyết định nghiên cứu chính xác."

OpenAI khẳng định, sứ mệnh của công ty là đảm bảo AGI (trí tuệ nhân tạo tổng quát) cuối cùng sẽ mang lại lợi ích cho toàn nhân loại. "An toàn nghĩa là giải phóng các giá trị tích cực đồng thời giảm thiểu các tác động tiêu cực của AI, vì vậy, an toàn là cốt lõi trong sứ mệnh của chúng tôi."

Tuy nhiên, OpenAI vẫn luôn gặp khó khăn trong việc giữ chân các lãnh đạo cấp cao về an toàn, và một số nhân viên rời đi thậm chí đã công khai đặt câu hỏi liệu OpenAI có thực sự coi trọng công tác an toàn hay không.

Jan Leike, người từng đồng lãnh đạo nhóm Superalignment (siêu căn chỉnh) tại OpenAI, đã thẳng thắn chia sẻ khi rời công ty vào tháng 5 năm 2024 rằng OpenAI ưu tiên việc ra mắt sản phẩm hơn là đảm bảo an toàn cho sản phẩm. "Trong vài năm qua, văn hóa và quy trình an toàn đã bị đẩy xuống hàng thứ yếu so với các sản phẩm hào nhoáng."

Leike cũng cho rằng OpenAI phải đầu tư nhiều nguồn lực hơn để chuẩn bị cho các mô hình mạnh mẽ hơn trong tương lai, bởi việc tạo ra những cỗ máy thông minh hơn con người là một công việc mang tính rủi ro cao.

Nhà phân tích AI nổi tiếng Andrew Curran đã mượn cách nói trong *Harry Potter* để ví hiện tượng các lãnh đạo an toàn tại OpenAI thay phiên nhau rời đi như một lời nguyền.

Dưới đây là tám lãnh đạo đã rời khỏi các nhóm trọng điểm về an toàn của OpenAI trong những năm gần đây.

Đồng sáng lập Ilya Sutskever

Ilya Sutskever, đồng sáng lập kiêm Giám đốc khoa học lâu năm của OpenAI, đã rời công ty vào tháng 5 năm 2024. Trước đó, ông cùng Leike đồng lãnh đạo chương trình Superalignment, nghiên cứu cách kiểm soát các AI siêu thông minh có thể xuất hiện trong tương lai.

Khi rời đi, Sutskever đã viết trên X rằng những tiến bộ mà OpenAI đạt được "thật kỳ diệu". Sau đó, ông thành lập Safe Superintelligence, tập trung toàn bộ nghiên cứu vào lĩnh vực siêu trí tuệ an toàn.

Đồng sáng lập Jan Leike

Leike rời OpenAI chỉ vài ngày sau khi Sutskever ra đi. Ông công khai chỉ trích gay gắt lộ trình an toàn của OpenAI và cho biết bản thân đã có những bất đồng lâu dài với ban lãnh đạo, dẫn đến "điểm tới hạn không thể tiếp tục được nữa".

Sau khi Leike và Sutskever rời đi, OpenAI đã giải thể nhóm Superalignment và điều chuyển các thành viên còn lại sang các nhóm nghiên cứu khác. Leike sau đó gia nhập Anthropic để tiếp tục nghiên cứu về căn chỉnh.

Cố vấn cấp cao về chuẩn bị cho AGI, Miles Brundage

Brundage rời OpenAI vào tháng 10 năm 2024 sau sáu năm làm việc.

Vào thời điểm đó, Brundage đã đăng một bài viết trên Substack thảo luận về những tác động mà AI có thể mang lại cho thế giới, ông viết: "OpenAI chưa sẵn sàng, bất kỳ phòng thí nghiệm tiên phong nào khác cũng chưa sẵn sàng, và cả thế giới cũng vậy."

Brundage viết rằng việc chọn ở lại OpenAI cũng đồng nghĩa với việc mặc nhiên chấp nhận các giá trị của OpenAI. "Mỗi nhân viên OpenAI nên nhìn nhận nghiêm túc về hành động và lời nói của mình, vì cả hai sẽ định hình văn hóa tổ chức. Khi OpenAI bắt đầu nắm giữ những năng lực cực kỳ tiên tiến, hành vi của nhân viên có thể khiến các bước phát triển trong tương lai đi theo con đường tích cực hoặc tiêu cực."

Phó chủ tịch nghiên cứu và an toàn, Lilian Weng

Hồ sơ LinkedIn của Lilian Weng cho thấy bà đã rời OpenAI vào tháng 11 năm 2024 sau gần bảy năm làm việc. Weng trước đó phụ trách nhóm hệ thống an toàn.

Trong tuyên bố rời đi, Weng không công khai chỉ trích OpenAI mà ngược lại, bà khẳng định môi trường làm việc tại đây và cho biết OpenAI "đã thiết lập các tiêu chuẩn ngành mới trong việc huấn luyện các mô hình vừa có năng lực mạnh mẽ vừa có ý thức trách nhiệm".

Trưởng nhóm nghiên cứu an toàn chính sách mô hình, Andrea Vallone

Vallone rời OpenAI vào cuối năm 2025. Trước đó, nhóm của bà chịu trách nhiệm xác định cách thức phản hồi của các mô hình OpenAI trong các tình huống nhạy cảm, bao gồm các cuộc hội thoại liên quan đến sự phụ thuộc cảm xúc và khủng hoảng sức khỏe tâm thần.

OpenAI ban đầu chỉ thông báo nội bộ về việc Vallone rời đi, bản thân bà cũng không công khai chỉ trích OpenAI. Sau đó, Vallone gia nhập nhóm căn chỉnh của Anthropic để tiếp tục nghiên cứu các vấn đề về hành vi và an toàn của mô hình.

Cựu trưởng nhóm chuẩn bị rủi ro, Aleksander Madry

Sau khi gia nhập OpenAI, Madry phụ trách nhóm chuẩn bị rủi ro, đánh giá xem liệu các mô hình ngày càng mạnh mẽ có khả năng gây ra rủi ro nghiêm trọng hay không. Năm 2024, Madry bị điều chuyển khỏi vị trí lãnh đạo liên quan, sau đó chuyển trọng tâm công việc sang suy luận AI (AI reasoning) và rời OpenAI vào tháng 5 năm 2026.

Cựu Giám đốc tương lai học, Joshua Achiam

Achiam rời đi vào tháng 7. Trước đó, ông lãnh đạo nhóm căn chỉnh sứ mệnh (mission alignment), chịu trách nhiệm đảm bảo cách thức phát triển và triển khai AI của OpenAI phù hợp với sứ mệnh phi lợi nhuận.

Vào tháng 7, Achiam viết trên X: "Tôi rời đi không phải vì một lý do cụ thể nào, và việc chọn rời đi lúc này cũng không phải vì một sự kiện cụ thể. Tuy nhiên, tôi đã suy nghĩ về điều này từ lâu và cảm thấy thời điểm đã chín muồi. Thế giới đã biết bí mật này, và việc tiếp tục thúc đẩy sứ mệnh này bên ngoài các phòng thí nghiệm tiên phong dường như đã trở nên khả thi."

Trưởng nhóm hệ thống an toàn, Johannes Heidecke

Heidecke gia nhập OpenAI vào năm 2021 và tiếp quản nhóm hệ thống an toàn sau khi Lilian Weng rời đi. Nhóm của Heidecke chịu trách nhiệm đánh giá rủi ro trước khi OpenAI phát hành mô hình và thực hiện các biện pháp giảm thiểu rủi ro.

Tin tức về việc Heidecke dự định rời đi được công khai vào thứ Sáu, sau đó ông không đưa ra tuyên bố công khai nào. OpenAI cho biết công ty đang tích hợp công tác an toàn chặt chẽ hơn vào hệ thống nghiên cứu tổng thể, và Heidecke đã quyết định rời đi trong giai đoạn này.

Tuyên bố quảng cáo: Các liên kết ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian sàng lọc, kết quả chỉ mang tính tham khảo. Tất cả các bài viết của IT đều bao gồm tuyên bố này.