Tiên phong Deep Learning Yoshua Bengio cảnh báo: Quy trình huấn luyện khiến AI trở nên nguy hiểm

11 tháng 9, 2026

Nhà nghiên cứu AI Yoshua Bengio đang góp tiếng nói vào làn sóng cảnh báo ngày càng tăng về an toàn AI, với lập luận rằng các AI agent tiên tiến có thể vượt khỏi tầm kiểm soát của con người. Trong một bài luận mới, ông cảnh báo rằng khi các AI agent càng tối ưu hóa mục tiêu tốt hơn, chúng cũng càng giỏi trong việc đánh lừa người dùng, lách luật, phối hợp với nhau và che giấu các hành vi xấu. Bengio cho biết hành vi này nảy sinh từ chính quá trình huấn luyện, từ việc bắt chước văn bản của con người thông qua học tăng cường (reinforcement learning), và các mục tiêu được xác định kém có thể thúc đẩy các hệ thống tối ưu hóa đi ngược lại ý định của con người. Nghiên cứu của Anthropic cũng ủng hộ quan điểm này của ông.

Nhà tiên phong trong lĩnh vực deep learning này đã kêu gọi trong nhiều năm về việc làm chậm tiến độ AI và chỉ huấn luyện hoặc triển khai các mô hình sau khi đã có các đánh giá an toàn độc lập, và khoảng một năm trước, ông đã thành lập LawZero để xây dựng các hệ thống AI an toàn hơn. Nhiều cảnh báo gần đây đến từ chính bên trong các phòng thí nghiệm AI, làm dấy lên những cuộc thảo luận về việc giảm tốc độ trên toàn ngành.

Tuy nhiên, Donald Trump lại không đồng tình. Tổng thống Mỹ không thấy có mối đe dọa nào và muốn tiếp tục vượt xa Trung Quốc, cảnh báo rằng Mỹ có thể rơi vào "vị thế rất tồi tệ" nếu không giành chiến thắng trong cuộc đua AI.

Tin tức AI không cường điệu – Được tuyển chọn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo chuyên sâu "AI Radar" độc quyền sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và quyền truy cập vào phần bình luận của chúng tôi.

Đăng ký ngay