Hơn 1.000 nhân viên từ các công ty AI hàng đầu cùng ký tên cảnh báo rủi ro từ AGI

AI có thể giúp kiến tạo một tương lai tốt đẹp hơn đáng kể, nhưng kết quả đó không được đảm bảo. Các công ty AI hàng đầu thế giới tin rằng họ có thể sắp đạt đến khả năng tự động hóa nghiên cứu AI. Rất khó để dự đoán chính xác điều này sẽ thúc đẩy tiến trình AI nhanh đến mức nào, nhưng có một rủi ro thực tế là sự phát triển năng lực sẽ tăng tốc vượt quá khả năng hiểu hoặc kiểm soát các hệ thống tạo ra của chúng ta.

Để hiện thực hóa tiềm năng của AI, ngành công nghiệp, chính phủ và toàn xã hội có thể cần có phương án để tranh thủ thời gian nhằm giải quyết các rủi ro mới nổi, phát triển các biện pháp an ninh và tăng cường giám sát. Tuy nhiên, mỗi công ty—và mỗi quốc gia—đều đang chịu áp lực cạnh tranh gay gắt, khiến họ không thể đơn phương làm chậm quá trình tăng tốc đó. Và hiện nay, thế giới vẫn thiếu các công cụ kỹ thuật và quản trị để chủ động điều tiết tiến độ trên toàn bộ các mô hình tiên phong.

Dựa trên những công việc đang được triển khai để giám sát việc phát hành các mô hình tiên phong (frontier model):