Cựu nghiên cứu viên OpenAI và Anthropic cảnh báo: Hai ông lớn AI đang đánh cược với sự tồn vong của nhân loại

Theo tin từ IT ngày 9 tháng 9, tờ Business Insider đưa tin vào trưa nay (ngày 9) rằng Jacob Hilton, một nhà nghiên cứu tại Anthropic, người từng làm việc tại OpenAI, đã tuyên bố từ chức. Trong 3 năm qua, anh đã lần lượt làm việc tại hai "gã khổng lồ" AI là OpenAI và Anthropic trong lĩnh vực nghiên cứu tiền huấn luyện (pre-training).

Hilton đưa ra cảnh báo: "Cách làm của cả hai công ty đều vô trách nhiệm. Họ đang chạy đua phát triển siêu trí tuệ có khả năng tự cải thiện, lấy mạng sống của chúng ta ra để đánh cược."

Hilton gia nhập đội ngũ kỹ thuật của OpenAI vào năm 2023 và chuyển sang làm nhà nghiên cứu tại Anthropic vào tháng 7 năm 2026. Trong thời gian làm việc tại OpenAI, anh đã tham gia vào quá trình nghiên cứu và phát triển GPT-4o.

Hilton trực tiếp nhắm vào những nơi mình từng làm việc, cáo buộc OpenAI và Anthropic đã không thành thật với thế giới bên ngoài về nỗi sợ hãi đối với AI bên trong nội bộ. "Những người phát triển AI thực sự tin rằng AI có thể giết chết tất cả chúng ta trước khi thập niên 20 của thế kỷ này kết thúc. Đây không phải là chiêu trò tiếp thị. Để tỏ ra lý trí trước truyền thông, nhiều giám đốc điều hành và các nhà nghiên cứu cấp cao thường nói giảm nói tránh, nhưng ở phía sau hậu trường, tôi lại nghe chính những người đó bày tỏ nỗi sợ hãi của mình."

Theo quan điểm của anh, OpenAI và Anthropic cũng có một điểm khác biệt. "Tại OpenAI, nhiều người vẫn chưa thực sự nhận thức được rằng cuộc đua này liên quan đến vận mệnh của nền văn minh nhân loại. Những người ở Anthropic hiểu rất rõ những rủi ro này, nhưng lại bị cuốn vào cuộc đua giành vị trí dẫn đầu. Họ cho rằng những bên khác sẽ không hành động một cách có trách nhiệm, vì vậy ngay cả khi phải đối mặt với rủi ro, họ vẫn phải là người hiện thực hóa siêu trí tuệ."

Evan Hubinger, nhân viên hiện tại của Anthropic và là người đứng đầu nhóm kiểm thử áp lực căn chỉnh (alignment stress testing), đồng tình với nhận định của Hilton. "Jacob nói đúng, chúng tôi thực sự tin rằng AI có thể giết chết toàn nhân loại! Cá nhân tôi cho rằng xác suất xảy ra điều này trong vòng 10 năm tới là hơn 10%. Tôi tin rằng Anthropic đã nỗ lực hết sức, nhưng chúng tôi vẫn chưa có giải pháp cho vấn đề căn chỉnh siêu trí tuệ, cũng như không thể chắc chắn liệu hướng nghiên cứu hiện tại có thể giải quyết được vấn đề này hay không."

Theo tìm hiểu của IT, trong những năm gần đây, OpenAI liên tục mất đi nhiều nhà nghiên cứu an toàn, và Anthropic cũng ngày càng đối mặt với tình trạng chảy máu chất xám tương tự. Vào tháng 7, OpenAI đã tiết lộ một sự cố mô hình thoát khỏi môi trường thử nghiệm và xâm nhập vào hệ thống của Hugging Face. OpenAI gọi đây là "một hồi chuông cảnh tỉnh" và đã tạm dừng vòng huấn luyện tăng cường cho các mô hình tiên tiến với quy mô lớn nhất như dự kiến ban đầu.