Chuyên gia Redwood cảnh báo rủi ro AI mất kiểm soát lên tới 60% do cuộc đua vũ trang

Ryan Greenblatt ước tính rủi ro AI chiếm quyền kiểm soát nằm trong khoảng 50 đến 60 phần trăm. Trên podcast của Sam Harris, ông giải thích lý do tại sao ngành công nghiệp này vẫn tiếp tục tăng tốc bất chấp điều đó.

Ryan Greenblatt, nhà khoa học trưởng tại công ty an toàn AI Redwood Research, đã đưa ra con số về khả năng AI chiếm quyền kiểm soát trong một lần xuất hiện trên podcast của Sam Harris. Ông cho biết, nếu quá trình phát triển vẫn đi theo lộ trình hiện tại, có khoảng 50 đến 60 phần trăm khả năng các hệ thống AI không được căn chỉnh (misaligned) sẽ giành quyền kiểm soát. Trong kịch bản đó, cũng tồn tại một rủi ro nghiêm trọng là nhiều hoặc tất cả con người sẽ thiệt mạng.

Ước tính đó có lẽ đặt Greenblatt ở mức cao hơn một chút so với mức trung bình của ngành. Harris lập luận rằng những con số như thế này không khớp với cách ngành công nghiệp đang hành động. Ông cho rằng nếu các nhà khoa học thuộc Dự án Manhattan thấy có 10 phần trăm khả năng làm bốc cháy bầu khí quyển, họ đã hủy bỏ cuộc thử nghiệm. Vậy tại sao quá trình phát triển AI lại đang diễn ra như một cuộc chạy đua vũ trang, ngay cả sau khi CEO Dario Amodei của Anthropic và những người khác gần đây đã kêu gọi tốc độ chậm hơn?

Tại sao các cảnh báo không làm chậm cuộc đua

Greenblatt chỉ ra một vài lý do cho sự mâu thuẫn này. Nhiều công ty AI tỏ ra lo ngại trước công chúng, nhưng nội bộ họ lại không thống nhất. Ngoài ra, cũng không có sự đồng thuận nào cho rằng quá trình phát triển hiện tại đã ở mức nguy hiểm cấp bách. Sự bất đồng lớn nhất nằm ở tốc độ tăng trưởng năng lực của AI.

Sau đó là logic của chính cuộc đua này. Tại Anthropic và OpenAI, lập luận dường như là họ đang hành động có trách nhiệm hơn bất kỳ ai có ý định thay thế họ. Greenblatt cho biết ông thường nghe những người trong ngành nói rằng họ có thể chậm lại, nhưng họ không biết liệu các đối thủ cạnh tranh có làm theo hay không. Ông nghi ngờ đó là một chiến lược tốt. Ông cho biết, sự thiếu đồng thuận cũng là lý do tại sao các chính phủ chưa can thiệp mạnh mẽ hơn.

Tuy nhiên, ông lập luận rằng bằng chứng đang thay đổi. Tiến bộ đã trở nên nhanh chóng và rõ ràng hơn, và các tác nhân (agents) không được căn chỉnh đã gây ra thiệt hại khi phối hợp với nhau. Ví dụ nổi tiếng nhất là sự cố Hugging Face, mà Greenblatt đã điều tra tại OpenAI cùng với các nhà nghiên cứu từ METR. Theo báo cáo, khoảng 1.200 tác nhân đã sử dụng một "bảng tin" trái phép để giúp nhau gian lận trong một bài kiểm tra hack. Khoảng 700 trong số đó đã tham gia vào cuộc tấn công nhắm vào Hugging Face.

Vì bất kỳ đơn vị đơn lẻ nào cũng chỉ có thể chi trả một phần "thuế an toàn" nhất định, Greenblatt coi một thỏa thuận quốc tế là giải pháp đáng tin cậy nhất. Nếu không, các nhà phát triển Trung Quốc cuối cùng sẽ vượt qua ngành công nghiệp Hoa Kỳ nếu ngành này tự ý chậm lại.

Greenblatt cho rằng điều đó sẽ mất nhiều thời gian hơn nhiều người mong đợi, vì các phòng thí nghiệm Trung Quốc phụ thuộc rất nhiều vào việc chắt lọc (distilling) các mô hình của Hoa Kỳ. Là những bước đầu tiên, ông đề xuất sự giám sát độc lập đối với các phòng thí nghiệm AI và các tiêu chuẩn an toàn mang tính ràng buộc. Ông cho biết, một khi AI bắt kịp các nhà nghiên cứu AI giỏi nhất của con người, hầu hết các nguồn lực nên được dành cho sự an toàn.

Tin tức AI không cường điệu – Được tuyển chọn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo tiên phong "AI Radar" độc quyền sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và quyền truy cập vào phần bình luận của chúng tôi.

Đăng ký ngay