CEO Anthropic làm rõ quan điểm về mô hình mã nguồn mở: Cảnh báo rủi ro thay vì kêu gọi cấm đoán

CEO của Anthropic, Dario Amodei, vẫn giữ quan điểm rằng các mô hình open-weight (trọng số mở) có năng lực cao tiềm ẩn những rủi ro đáng kể, nhưng về nguyên tắc, ông không phản đối việc mở trọng số.

Trong một bài đăng trên blog, ông nhấn mạnh rằng "Anthropic chưa bao giờ ủng hộ việc cấm các mô hình open-weight", đồng thời nói thêm rằng những mô hình "không có các năng lực nguy hiểm là một lợi ích công cộng".

Tuy nhiên, Amodei cho biết ông có hai "kịch bản ác mộng": các quốc gia độc tài, đặc biệt là Trung Quốc, có thể xây dựng các mô hình mạnh mẽ hơn Mỹ và sử dụng chúng để giành ưu thế quân sự hoặc năng lực giám sát. Ngoài ra, các mô hình mở mạnh mẽ có thể bị lạm dụng cho các cuộc tấn công mạng hoặc sinh học. Các phòng thí nghiệm AI biết từ dữ liệu sử dụng của họ rằng những nỗ lực như vậy cũng đang xảy ra với các mô hình đóng (closed models).

Ông lập luận rằng open-weight rủi ro hơn vì chúng thiếu các biện pháp bảo vệ và một khi mô hình đã được phát hành thì không thể thu hồi. Mặc dù các mô hình mở cũng hỗ trợ những người phòng thủ, Amodei nhận thấy sự mất cân bằng nghiêm trọng đối với các mối đe dọa sinh học, nơi các mô hình đủ năng lực có thể vũ khí hóa virus một cách nhanh chóng, trong khi việc xây dựng các biện pháp phòng thủ sẽ mất nhiều năm ngay cả trong trường hợp khả quan nhất.

Một nghiên cứu của Viện An ninh AI Vương quốc Anh (UK AI Security Institute) cho thấy các mô hình open-weight chỉ chậm hơn các mô hình tiên phong (frontier models) vài tháng về an ninh mạng. Amodei từng cảnh báo về năng lực của chính các mô hình của mình trước đây, những cảnh báo đã góp phần thúc đẩy lệnh cấm của Mỹ, vì vậy ít nhất ông vẫn nhất quán trong các lập luận của mình.

Amodei muốn làm chậm đà phát triển của Trung Quốc và tránh các kịch bản tồi tệ nhất.

Amodei đang kêu gọi kiểm soát xuất khẩu chip chặt chẽ hơn để Trung Quốc không thể huấn luyện các mô hình mạnh mẽ hơn Mỹ nếu không có chip của Mỹ. Ông muốn có hành động chống lại việc chưng cất công nghiệp (industrial distillation), phương pháp mà Trung Quốc được cho là đang sử dụng để né tránh một phần các hạn chế về chip và đóng vai trò là "kẻ hưởng lợi miễn phí" từ thành công của AI tại Mỹ. Những người chỉ trích phản bác rằng việc cắt đứt doanh số bán chip của Mỹ cho Trung Quốc chủ yếu thúc đẩy sự phát triển ngành công nghiệp chip của chính Trung Quốc và rằng chưng cất là một kỹ thuật hợp pháp và hữu ích.

Amodei cũng muốn có các bài kiểm tra an toàn bắt buộc đối với tất cả các mô hình mạnh mẽ, bất kể chúng đến từ đâu hoặc được cấp phép như thế nào. Về điểm cuối cùng này, Amodei nhận thấy sự đồng thuận ngày càng tăng, khi chỉ ra các đề xuất gần đây về việc miễn trừ cho các mô hình ít mạnh mẽ hơn từ các công ty khởi nghiệp và nghiên cứu.

Những bình luận của Amodei xuất hiện sau các báo cáo cho rằng chính quyền Mỹ đang cân nhắc các bước để gây khó khăn cho các công ty Mỹ trong việc sử dụng các mô hình open-weight của Trung Quốc, cùng với một bức thư được nhiều công ty công nghệ lớn ký tên phản đối các động thái như vậy.

Những người chỉ trích cáo buộc Anthropic hạ thấp các mô hình open-weight để bảo vệ hoạt động kinh doanh của chính mình trước sự cạnh tranh giá rẻ hơn. OpenAI cũng được cho là vẫn đang vận động hành lang chống lại open-weight, mặc dù công ty này đã ký vào bức thư trên.

Tin tức AI không thổi phồng – Được tuyển chọn bởi con người.

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo độc quyền "AI Radar" về các mô hình tiên phong sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và quyền truy cập vào phần bình luận của chúng tôi.

Đăng ký ngay.