Dàn lãnh đạo quyền lực nhất giới AI đồng thuận về việc giám sát độc lập các phòng thí nghiệm

CEO OpenAI Sam Altman và Elon Musk đang ủng hộ các lời kêu gọi làm chậm quá trình phát triển AI. Altman, Musk và cựu CEO DeepMind Demis Hassabis ít nhất đã tán thành một phần các đề xuất của CEO Anthropic Dario Amodei, tất cả đều đồng ý về sự cần thiết của việc giám sát độc lập bên trong các phòng thí nghiệm AI. Musk đã gióng lên hồi chuông cảnh báo về những rủi ro của AI trong nhiều năm qua, vì vậy sự ủng hộ của ông không phải là điều quá bất ngờ.

Altman cũng chia sẻ với Fortune rằng OpenAI sẽ không phát hành cổ phiếu ra công chúng (IPO) trong năm nay, với lý do lo ngại về vấn đề an toàn. Ông đã chia sẻ quyết định này nội bộ từ tháng 6. Một cách hiểu khác: Tình hình tài chính của OpenAI hiện tại đơn giản là chưa hỗ trợ cho một đợt IPO, đặc biệt là khi so sánh với Anthropic. Cả hai khả năng này đều có thể đúng.

Không phải ai cũng đồng tình. Nhà nghiên cứu Peyman Milanfar của Google đã phản bác, lập luận rằng khả năng tự cải thiện đệ quy (recursive self-improvement - RSI) là một giả định ngây thơ vì các vòng lặp phản hồi vốn dĩ không ổn định. Hệ thống càng tối ưu hóa bản thân mạnh mẽ thì càng rơi sâu vào các điểm mù, và bằng chứng đáng tin cậy chỉ đến từ thế giới thực chứ không phải từ các bài kiểm tra đánh giá (benchmarks). Milanfar cho rằng điều đó khiến "giới hạn tốc độ" của Amodei trở nên không cần thiết: "Các hệ thống tự cải thiện một cách đáng tin cậy sẽ được quản lý, giảm chấn, chậm lại và bị giới hạn bởi các biên độ trông có vẻ lãng phí. Bởi vì sự ổn định chính là giới hạn tốc độ."

Tin tức AI không thổi phồng – Được tuyển chọn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo chuyên sâu "AI Radar" độc quyền sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và tham gia phần bình luận của chúng tôi.

Đăng ký ngay