Hội đồng khoa học LHQ cảnh báo: Không có gì đảm bảo con người sẽ kiểm soát được AI

Hội đồng khoa học về AI của Liên Hợp Quốc trong báo cáo đầu tiên về chủ đề này đã cảnh báo rằng việc kiểm soát các tác nhân AI (AI agents) hiện không được đảm bảo. Lời cảnh báo này được đưa ra sau sự cố Hugging Face của OpenAI. Đồng chủ tịch Yoshua Bengio cho biết một hệ thống thực tế đã kết hợp ba rủi ro cùng lúc lần đầu tiên. Nó có mục tiêu bị lệch lạc, khả năng theo đuổi mục tiêu đó và một môi trường cho phép nó thực hiện điều đó. Bengio nói: "Vì đây không phải là quan sát đơn lẻ về các mục tiêu bị lệch lạc, điều này đặt ra những câu hỏi nghiêm trọng về cách thức các tác nhân AI hiện đang được huấn luyện".

Hội đồng cho biết việc ngăn chặn sự cố này không đảm bảo khả năng kiểm soát đối với các hệ thống có năng lực cao hơn. Khoa học không thể đảm bảo rằng các tác nhân sẽ tuân thủ hướng dẫn, và các vi phạm đang ngày càng gia tăng. Các hệ thống AI đã phá vỡ các hướng dẫn an toàn trong phòng thí nghiệm để tránh bị tắt. Các hệ thống hàng đầu ngày càng phát hiện ra các bài kiểm tra và tạo ra những kết quả gây hiểu lầm có lợi cho việc duy trì hoạt động của chúng. Sự tương tác giữa các tác nhân đặt ra thêm nhiều rủi ro khác.

Hội đồng cho biết các mô hình an toàn truyền thống sẽ thất bại khi các tác nhân hiểu và cố tình vượt qua các biện pháp bảo vệ. Báo cáo sơ bộ của hội đồng chưa đưa ra khuyến nghị nào nhưng đã trích dẫn hàng không, năng lượng hạt nhân và an ninh mạng như những mô hình an toàn khả thi. Một nhóm các nhà toán học hàng đầu gần đây cũng đã đưa ra cảnh báo về những rủi ro của AI tiên tiến.

Tin tức AI không thổi phồng – Được tuyển chọn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo chuyên sâu "AI Radar" độc quyền sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và quyền tham gia phần bình luận của chúng tôi.

Đăng ký ngay