CEO Hugging Face mỉa mai cảnh báo diệt vong AI của cựu nhân viên Anthropic

Theo tin từ IT ngày 12 tháng 9, CEO của Hugging Face, Clément Delangue, đã đặt nghi vấn về những cuộc thảo luận xoay quanh cựu nghiên cứu viên của Anthropic là Leopold Aschenbrenner (Jacob Hilton).

Aschenbrenner từng cho rằng, những người làm trong ngành AI đang âm thầm lo ngại công nghệ này cuối cùng có thể dẫn đến sự diệt vong của toàn nhân loại. Phản hồi về điều này, vào tối ngày 11, Delangue đã viết trên X: "Xin lỗi, nhưng để Jacob thảo luận về rủi ro diệt vong do AI cũng giống như việc để thợ sửa điều hòa nhà bạn thảo luận về biến đổi khí hậu vậy."

Delangue cho rằng, cần phải đặt Aschenbrenner - người đã khơi mào một làn sóng tranh luận mới về rủi ro AI sau khi từ chức - vào một bối cảnh đầy đủ hơn. "Tôi không nói rằng bản thân điều đó nhất định là vô nghĩa hay sai trái, nhưng chúng ta cần giữ thái độ khách quan và cũng nên lắng nghe tiếng nói từ nhiều lĩnh vực chuyên môn khác nhau trong toàn bộ hệ sinh thái!"

Theo thông tin mà IT nắm được, ngay trong thứ Ba tuần này, Aschenbrenner đã tuyên bố từ chức với lý do lo ngại Anthropic và OpenAI (nơi ông từng làm việc) đang dốc toàn lực tiến tới siêu trí tuệ có khả năng tự cải thiện, đồng thời đánh cược bằng chính mạng sống của nhân loại. "Những người phát triển AI thực sự tin rằng, trước khi thập niên 20 của thế kỷ này kết thúc, AI có thể giết chết tất cả chúng ta. Đây không phải là chiêu trò tiếp thị."

Sau đó, Delangue giải thích rằng việc ông ví Aschenbrenner như "thợ sửa điều hòa" không phải là muốn "bôi nhọ" ông ấy. Điều thực sự cần thiết là một cuộc thảo luận toàn diện hơn xoay quanh các rủi ro của AI. "Điều này chỉ có nghĩa là chúng ta nên xem xét bất kỳ quan điểm đơn lẻ nào trong một bối cảnh rộng lớn hơn, đồng thời cũng nên lắng nghe tiếng nói từ hệ sinh thái AI rộng lớn hơn."

Delangue cũng cho biết, theo hiểu biết của ông, công việc của Aschenbrenner chủ yếu tập trung vào tiền huấn luyện (pre-training), tức là sử dụng các tập dữ liệu lớn để huấn luyện mô hình AI, chứ không phải là nghiên cứu chuyên sâu về các vấn đề rủi ro.