Anthropic làm rõ: Không cấm mô hình mã nguồn mở, tập trung vào an ninh và kiểm soát chip

Bài đăng từ Dario Amodei, CEO của Anthropic

Trong vài ngày qua, đã có rất nhiều cuộc thảo luận về các mô hình open-weights (mô hình mở trọng số), đặc biệt là những mô hình đến từ Trung Quốc. Các báo cáo cho thấy một số quan chức Hoa Kỳ đang cân nhắc việc cấm các công ty Mỹ sử dụng các mô hình open-weights của Trung Quốc. Để phản hồi, nhiều công ty công nghệ đã ký vào một bức thư ủng hộ các mô hình open-weights, và một số người thậm chí còn cáo buộc Anthropic muốn cấm các mô hình này như một cách để bảo vệ hoạt động kinh doanh của chúng tôi. Bất kỳ ai từng đọc các bài viết trước đây của tôi đều nên biết rằng tôi không coi những lệnh cấm như vậy là một biện pháp hữu ích, nhưng hãy để tôi khẳng định rõ ràng để không còn nghi ngờ gì nữa: Anthropic chưa bao giờ ủng hộ việc cấm các mô hình open-weights.

Các mô hình open-weights không có khả năng gây nguy hiểm là một loại hàng hóa công cộng: chúng không tốn kém chi phí nào ngoài tài nguyên tính toán cần thiết để vận hành, đồng thời mang lại giá trị cho các doanh nghiệp, nhà phát triển và các nhà nghiên cứu.

Các lệnh cấm mang tính bảo hộ sẽ không giải quyết được những lo ngại nghiêm trọng nhất của tôi về an ninh quốc gia. Cụ thể, tôi lo ngại về hai kịch bản ác mộng. Tôi đã trình bày những điều này trong bài luận "The Adolescence of Technology" của mình sáu tháng trước, và đã giữ vững quan điểm này trong nhiều năm:

Để giải quyết những lo ngại này, tôi ủng hộ ba biện pháp sau đây, vốn là những điều mà tôi và Anthropic đã nhất quán ủng hộ:

Điều này dẫn tôi đến bức thư ngỏ. Tôi đồng ý với phần lớn nội dung trong đó: open weights giúp mở rộng khả năng tiếp cận nền kinh tế AI, tăng cường cạnh tranh ít nhất là đối với một số trường hợp sử dụng, và mang lại cho khách hàng quyền kiểm soát lớn hơn. Những lo ngại về distillation (chưng cất mô hình) nên được giải quyết thông qua các khuôn khổ pháp lý và thương mại có mục tiêu—cùng biện pháp mà tôi đã mô tả ở trên. Tuy nhiên, tôi không đồng ý với khẳng định của bức thư rằng các mô hình open-weights nhất thiết giúp việc phát triển các biện pháp bảo vệ trở nên dễ dàng hơn, hay việc tiếp cận rộng rãi các năng lực AI nhất thiết giúp ích cho bên phòng thủ nhiều hơn bên tấn công. Đối với tôi, khả năng điều ngược lại xảy ra là cao không kém. Ví dụ, tôi lo ngại rằng lĩnh vực sinh học sẽ có sự bất đối xứng mạnh mẽ giữa bên tấn công và bên phòng thủ, nơi các mô hình đủ năng lực có thể nhanh chóng vũ khí hóa các loại virus gây đại dịch bằng các vật liệu phổ biến, trong khi việc phòng thủ chống lại các tác nhân này là một nhiệm vụ vận hành kéo dài nhiều năm trong trường hợp tốt nhất (như chúng ta đã thấy với Operation Warp Speed). Những câu hỏi như thế này nên được trả lời bằng thực nghiệm thông qua các bài kiểm tra nghiêm ngặt trước khi phát hành, thay vì giả định trước.

Tóm lại, quan điểm của tôi và Anthropic là chúng tôi đã không và hiện không ủng hộ việc cấm các mô hình open-weights như một danh mục. Thay vào đó, chúng ta nên tập trung vào việc ngăn chặn các loại chip mạnh mẽ rơi vào tay các thế lực độc tài, ngăn chặn việc distillation ở quy mô công nghiệp, và yêu cầu kiểm tra an toàn đối với tất cả các mô hình đủ năng lực, dù là mô hình mở hay đóng.

Nội dung liên quan

Cognizant và Anthropic mở rộng quan hệ đối tác để đưa Claude đến với các khách hàng doanh nghiệp

Đọc thêm

Giới thiệu Claude Opus 5

Opus 5 là một bước cải tiến vượt bậc cho phân khúc Opus, hỗ trợ các tác nhân (agents) chạy dài hạn đồng thời mang lại những cải tiến trong lập trình và công việc chuyên môn.

Đọc thêm

Chương trình nghiên cứu cho Quỹ Nghiên cứu Tương lai Kinh tế (Economic Futures Research Fund)

Chúng tôi đang chia sẻ chương trình nghiên cứu cho Quỹ Nghiên cứu Tương lai Kinh tế của Anthropic.

Đọc thêm