CEO Anthropic lên tiếng: Chúng tôi chưa bao giờ ủng hộ việc cấm AI mã nguồn mở

Cảm ơn bạn đọc Hoa Nam Ngô Ngạn Tổ của IT đã gửi tin!

Theo tin từ IT ngày 28 tháng 7, chủ đề liệu AI có nên mở quyền truy cập trọng số (Open-weight) hay không gần đây đã trở thành tâm điểm thảo luận của ngành.

Thứ Sáu tuần trước, hơn 20 công ty bao gồm Nvidia, Meta và Microsoft đã cùng ký vào bức thư ngỏ có tiêu đề "Open Weights and American AI Leadership" (tạm dịch: Mở quyền truy cập trọng số và vị thế dẫn đầu về AI của Mỹ), nhằm ủng hộ các mô hình AI mở quyền truy cập trọng số.

Đến cuối tuần, OpenAI, Google và SpaceX cũng đã ký vào bức thư này. Trong khi đó, Anthropic vẫn giữ im lặng và phải đối mặt với sự chỉ trích từ các đối thủ trong ngành.

Hôm nay, CEO Dario Amodei của Anthropic cuối cùng đã không thể ngồi yên. Ông đã đăng tải một bài viết trên trang chủ với tiêu đề "Quan điểm của chúng tôi về các mô hình mở quyền truy cập trọng số". Ông cho biết nhiều công ty công nghệ đã ký tuyên bố ủng hộ các mô hình này, thậm chí có người còn cáo buộc Anthropic đang cố gắng bảo vệ lợi ích kinh doanh của mình bằng cách cấm các mô hình mở quyền truy cập trọng số. "Bất kỳ ai từng đọc các bài viết trước đây của tôi đều nên hiểu rằng, tôi không cho rằng lệnh cấm như vậy là một biện pháp hiệu quả. Tuy nhiên, tôi muốn khẳng định rõ ràng rằng, Anthropic chưa bao giờ ủng hộ việc cấm các mô hình mở quyền truy cập trọng số."

Dario Amodei cho biết, những mô hình mở quyền truy cập trọng số không có chức năng nguy hiểm chính là một loại tài sản công: chúng không gây ra bất kỳ chi phí nào ngoài tài nguyên tính toán cần thiết để vận hành, đồng thời có thể mang lại giá trị cho các doanh nghiệp, nhà phát triển và các nhà nghiên cứu.

Dario Amodei cho rằng, các lệnh cấm mang tính bảo hộ không thể giải quyết được vấn đề an ninh quốc gia mà ông quan tâm nhất. Ông ủng hộ việc trấn áp mạnh mẽ các hoạt động chưng cất (distillation) ở quy mô công nghiệp, đồng thời cho rằng dù là mô hình mã nguồn mở hay đóng, tất cả đều nên trải qua các bài kiểm tra an toàn bắt buộc.

Dario Amodei cho biết ông đồng ý với hầu hết các quan điểm trong bức thư ngỏ, nhưng không tán thành một số ý kiến cho rằng các mô hình mở quyền truy cập trọng số chắc chắn sẽ dễ dàng triển khai các biện pháp bảo vệ hơn, hoặc việc tiếp cận rộng rãi các năng lực AI sẽ giúp bên phòng thủ có lợi thế hơn bên tấn công. Theo quan điểm của ông, tình hình có thể hoàn toàn ngược lại.

IT lưu ý, Dario Amodei đã đưa ra một ví dụ để bày tỏ mối lo ngại của mình, tương tự như hiện tượng bất đối xứng rõ rệt giữa tấn công và phòng thủ trong lĩnh vực sinh học: những mô hình có năng lực mạnh mẽ có thể tận dụng các vật liệu sẵn có để nhanh chóng tạo ra các loại virus có khả năng sát thương hàng loạt, trong khi việc phòng thủ chống lại các loại virus này lại là một nhiệm vụ cần nhiều năm mới có thể hoàn thành.

Dario Amodei cho rằng, những vấn đề loại này nên được xác thực thông qua các bài kiểm tra nghiêm ngặt trước khi phát hành, thay vì đưa ra các giả định từ trước.

Tuyên bố quảng cáo: Các liên kết chuyển hướng bên ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, giúp tiết kiệm thời gian lựa chọn. Kết quả chỉ mang tính chất tham khảo. Tất cả các bài viết trên IT đều bao gồm tuyên bố này.