Anthropic cảnh báo mô hình AI mới 'Mythos' có dấu hiệu vượt tầm kiểm soát, kêu gọi tạm dừng phát triển

Theo tin từ IT ngày 5 tháng 6, tờ Wall Street Journal đưa tin, công ty trí tuệ nhân tạo Anthropic của Mỹ hôm qua đã công bố một báo cáo cho biết các mô hình AI mới nhất đã bắt đầu xuất hiện dấu hiệu vượt khỏi tầm kiểm soát của con người, đồng thời khuyến nghị các tập đoàn lớn trên toàn cầu nên cân nhắc việc chậm lại hoặc thậm chí tạm dừng phát triển các hệ thống AI tiên tiến.

Công ty này cho rằng việc các tập đoàn lớn trên thế giới làm chậm quá trình phát triển AI tiên phong "rất có thể là một điều tốt", nhưng nếu chỉ có một công ty dừng lại thì các đối thủ cạnh tranh sẽ tăng tốc tiến lên phía trước.

Anthropic bày tỏ: "Chúng tôi cho rằng thế giới nên có các lựa chọn để làm chậm hoặc tạm dừng phát triển AI tiên phong, nhằm giúp việc xây dựng các thể chế xã hội và nghiên cứu về sự căn chỉnh (IT chú thích: alignment) có thể bắt kịp tốc độ tiến bộ của công nghệ".

Anthropic tin rằng các công ty AI lớn trên toàn cầu như Mỹ và Trung Quốc nên đạt được sự đồng thuận và ban hành một bộ quy tắc mà tất cả các bên tham gia đều có thể kiểm chứng: "Nếu không có cơ chế phối hợp toàn cầu, các doanh nghiệp và chính phủ sẽ phải đưa ra những quyết định khó khăn về vấn đề an toàn dưới áp lực cạnh tranh và địa chính trị".

Được biết, quan điểm của Anthropic đã gây ra sự bất mãn cho một số quan chức tại Nhà Trắng. Những người chỉ trích cho rằng công ty này đang quá nhấn mạnh vào các tình huống xấu nhất, thổi phồng rủi ro của AI và lấy danh nghĩa lo ngại về an ninh để gây khó dễ cho các đối thủ. Tuy nhiên, chính phủ Mỹ cũng thừa nhận mô hình Mythos của công ty này sở hữu năng lực rất mạnh mẽ.

Ngoài ra, Anthropic còn mô tả quan điểm nêu trên giống như "Hiệp ước không phổ biến vũ khí hạt nhân", nhưng AI lại khó quản lý hơn vũ khí hạt nhân vì việc huấn luyện AI dễ che giấu hơn nhiều so với việc phóng tên lửa, hơn nữa các tập đoàn lớn sẽ tiếp tục lén lút phát triển AI tiên tiến vì sự cám dỗ của lợi nhuận.

Trong những tháng tới, công ty này sẽ triệu tập các quan chức chính phủ, nhà khoa học, các tổ chức vận động và đối thủ cạnh tranh để cùng thảo luận về cách thức vận hành của cơ chế phối hợp toàn cầu này.

Thông báo quảng cáo: Các liên kết chuyển hướng bên ngoài (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) trong bài viết được sử dụng để truyền tải thêm thông tin, tiết kiệm thời gian lựa chọn, kết quả chỉ mang tính chất tham khảo, tất cả các bài viết của IT đều bao gồm thông báo này.