Phòng thí nghiệm Arcee: Các mô hình AI từ Trung Quốc không mặc định gây nguy hiểm

Khi các mô hình AI open-weight (trọng số mở) của Trung Quốc ngày càng trở nên mạnh mẽ và phổ biến, những tranh luận về việc cần làm gì với chúng một lần nữa lại trở nên vô cùng gay gắt.

Có những ý kiến cho rằng chính quyền Trump có thể tìm cách cấm các mô hình này (mặc dù hiện tại vẫn chưa có động thái cụ thể nào). Trong khi đó, các nhà phát triển mô hình độc quyền, đặc biệt là OpenAI và Anthropic, dường như ngày càng lo ngại về chúng.

Các mô hình open-weight như Kimi K3 của Moonshot AI hay Qwen của Alibaba cung cấp khả năng suy luận với chi phí token chỉ bằng một phần nhỏ so với các mô hình nguồn đóng từ các phòng thí nghiệm lớn tại Mỹ. Nỗi lo ngại ở đây là chúng cũng tiềm ẩn một mối đe dọa nào đó. Chắc chắn rằng, chúng đang đe dọa biên lợi nhuận của các phòng thí nghiệm AI độc quyền lớn.

Nhưng liệu các doanh nghiệp đang vận hành những mô hình này trong trung tâm dữ liệu của riêng họ có nên khuất phục trước nỗi sợ rằng chúng có thể là công cụ cho các hacker Trung Quốc?

Không, theo Lucas Atkins, CTO của Arcee, công ty đang xây dựng các mô hình mở để cung cấp cho các doanh nghiệp Mỹ một giải pháp thay thế nội địa cho các mô hình Trung Quốc.

Nếu có bất kỳ startup nào được hưởng lợi từ việc cấm các mô hình Trung Quốc, thì đó chính là Arcee. Nhưng Atkins cho rằng các mô hình mở của Trung Quốc không nguy hiểm hơn bất kỳ phần mềm mã nguồn mở nào khác mà một công ty có thể sử dụng. Trên thực tế, ông nói, chúng thậm chí còn mang lại lợi ích cho chính công ty của ông.

"Rất nhiều người coi đây giống như một chương trình phần mềm của Trung Quốc. Kiểu như, nó được lập trình với những ý đồ x, y, z" mà một kẻ xấu có thể dễ dàng ra lệnh, ông nói.

"Về cơ bản, đó không phải là cách các mô hình này được huấn luyện. Thực sự không có cách nào để Arcee hay Alibaba tạo ra một mô hình, để ai đó chạy nó trong môi trường riêng của họ mà chúng tôi lại có thể truy cập vào đó được," ông giải thích.

Mặc dù hầu hết các mô hình này được gọi là "open-weight" và không thực sự là phần mềm mã nguồn mở hoàn toàn, nhưng mã nguồn (phần thực sự chạy trên máy chủ), nếu được tải xuống từ các trang web mã nguồn mở như Hugging Face, thì phần lớn đều có thể nhìn thấy và kiểm tra được. (Điều không có sẵn là các phương pháp và dữ liệu được sử dụng để huấn luyện các mô hình đó.)

Các tổ chức lớn nên đưa bất kỳ lõi mô hình nào qua các quy trình kiểm tra và giám sát bảo mật của họ, và họ cũng thường huấn luyện bổ sung (post-train) các mô hình cho các mục đích sử dụng cụ thể của mình, đồng thời có thể kiểm tra các khía cạnh như định kiến, độc hại, ảo giác, và sự nhạy cảm với các chủ đề nhất định. Vì vậy, họ làm việc với, tối ưu hóa và hiểu rõ các mô hình trước khi bắt đầu gửi các câu lệnh (prompt) cho chúng.

Liệu một mô hình được sử dụng để lập trình có thể bằng cách nào đó chèn các cửa hậu (backdoor) độc hại vào mã mà nó viết ra không? Một lần nữa, mặc dù về lý thuyết là có thể, nhưng sẽ cần những kỹ thuật vô cùng tinh vi để thực hiện được điều đó.

"Không có lý do gì mà một tác nhân đủ tinh vi lại không thể huấn luyện một mô hình trở thành một mô hình lập trình tuyệt vời trong mọi tình huống, nhưng khi được đưa cho một loại cơ sở mã cụ thể nào đó... một số quá trình huấn luyện ẩn sẽ được kích hoạt," Atkins, người dành cả ngày để huấn luyện các mô hình, giả định. Nhưng ông nói thêm: "Tôi không biết làm thế nào để thực hiện được điều đó."

Vì các mô hình ngôn ngữ lớn về bản chất là sáng tạo, nên khả năng để một mô hình hiện đại xuất ra mã độc để đáp ứng một kịch bản hoàn hảo đã được lên kế hoạch trước là rất thấp. Khả năng bất kỳ doanh nghiệp nào sau đó sử dụng đoạn mã đó lại càng thấp hơn nữa.

Liệu điều đó có thể xảy ra trong tương lai không? Không ai có thể đoán trước được. Nhưng các doanh nghiệp cũng đang xây dựng các ứng dụng AI của họ theo hướng không phụ thuộc vào mô hình (model-agnostic) và sử dụng nhiều mô hình cùng lúc. Vì vậy, ngay cả khi các mô hình Trung Quốc là tốt nhất về giá cả hiện nay, các doanh nghiệp cũng sẽ không bị khóa chặt vào việc sử dụng chúng mãi mãi.

"Tôi nghĩ thay vì thảo luận về việc làm thế nào để cấm các mô hình Trung Quốc, chúng ta nên thảo luận về việc làm thế nào để thúc đẩy một hệ sinh thái mở, lành mạnh ngay tại Mỹ," Atkins nói.

Arcee cũng đạt được những lợi thế từ các mô hình Trung Quốc. Vì chúng là mô hình mở, startup này "được hưởng lợi từ việc các mô hình đó hoạt động tốt vì chúng tôi có thể học hỏi những gì họ đã làm. Chúng tôi có thể xây dựng dựa trên nền tảng của họ. Sau đó, họ cũng có thể học hỏi những gì chúng tôi làm," ông nói. "Chúng tôi dành sự tôn trọng to lớn cho những người xây dựng các mô hình đó, những nhà nghiên cứu cá nhân."

Cuối cùng, cách để cạnh tranh với các mô hình Trung Quốc "là phát hành một mô hình tốt hơn," Atkins nói. "Chúng ta cần mang đến cho họ thứ gì đó để bàn luận."

Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.