NVIDIA âm thầm thành lập đội ngũ bảo mật AI, đặt cược vào các mô hình mã nguồn mở

Theo tin từ IT ngày 6 tháng 8, tờ Business Insider hôm nay (ngày 6) đưa tin rằng Nvidia đang âm thầm thành lập một đội ngũ kỹ thuật mới chuyên về an toàn AI và an ninh mạng.

Sự tồn tại của đội ngũ này lần đầu được tiết lộ thông qua một loạt thông tin tuyển dụng được công bố tập trung vào cuối tháng trước. Nvidia dự định tuyển dụng một kỹ sư xuất sắc để đảm nhận vị trí lãnh đạo kỹ thuật sáng lập cho nhóm mới, cùng các vị trí khác bao gồm kỹ sư nghiên cứu bảo mật, kỹ sư đánh giá và quản lý cấp cao. Đội ngũ này sẽ thực hiện đánh giá an toàn đối với các AI agent (tác nhân AI) chưa được triển khai, đồng thời phát triển các công cụ sử dụng AI để tự động vá các lỗ hổng phần mềm.

Báo cáo cho rằng động thái này cho thấy trong khi Nvidia đang đặt cược vào các mô hình mở (open-weight models) và AI agent, họ cũng đang nâng tầm quan trọng của an toàn AI lên một vị thế cao hơn. Các mô hình mở sẽ công khai các tham số huấn luyện quyết định cách thức vận hành của mô hình, nhưng dữ liệu huấn luyện và mã nguồn vẫn có thể được giữ kín.

Trong một thông tin tuyển dụng, Nvidia khẳng định đội ngũ này giữ vững một "niềm tin kiên định": các mô hình mở, tính minh bạch về công nghệ và sự giám sát khoa học rộng rãi là nền tảng để Hoa Kỳ duy trì vị thế dẫn đầu về AI và tăng cường khả năng phòng thủ an ninh mạng.

Theo tìm hiểu của IT, trong những tháng gần đây, Nvidia ngày càng công khai ủng hộ các mô hình AI mở, tạo nên sự tương phản rõ rệt với lộ trình mô hình đóng mà các doanh nghiệp như OpenAI và Anthropic đang áp dụng.

Tháng trước, nhà sáng lập kiêm CEO của Nvidia, Jensen Huang, lần đầu tiên đăng bài trên nền tảng X, chia sẻ lại một bức thư ngỏ kêu gọi các nhà hoạch định chính sách Hoa Kỳ ủng hộ các mô hình mở. Ông chỉ ra rằng các mô hình mở có thể cải thiện tính an toàn của AI và tăng cường an ninh mạng.

Khi AI chuyển mình từ các chatbot chỉ biết đối thoại sang các AI agent có khả năng đọc dữ liệu nhạy cảm của doanh nghiệp, sử dụng công cụ và thực hiện các tác vụ thực tế, việc liệu các doanh nghiệp có thể tin tưởng vào hệ thống AI hay không rất có thể sẽ trở thành yếu tố then chốt quyết định tốc độ phổ cập.

Đọc thêm:

"Nvidia, Microsoft, IBM và 37 doanh nghiệp khác thành lập Liên minh AI an toàn mở (Open Safe AI Alliance): Xây dựng và chia sẻ các công cụ mã nguồn mở, thúc đẩy an toàn và bảo mật AI"