Jensen Huang tại Dreamforce: Salesforce ra mắt Koa, mô hình suy luận CRM đầu tiên dựa trên NVIDIA Nemotron

Biết mọi thứ. Làm mọi việc.

Đó là thông điệp mà nhà sáng lập kiêm CEO NVIDIA, Jensen Huang, đã mang đến sự kiện Salesforce Dreamforce vào thứ Ba, khi ông cùng CEO Marc Benioff xuất hiện trên sân khấu trong dịp công bố Koa — mô hình suy luận CRM đầu tiên của Salesforce, được xây dựng trên nền tảng NVIDIA Nemotron 3 Super.

Huang không chỉ bước lên sân khấu. Ông đi xuống phía khán giả — len lỏi giữa đám đông tại Trung tâm Moscone, tay cầm micro, cùng với Benioff bên cạnh. "Tất cả chúng tôi đều đang theo bước anh, người anh em," Benioff nói với Huang tại một thời điểm, thu hút những tràng pháo tay.

"Với điện năng, chúng ta có thể cung cấp năng lượng cho mọi thứ," Huang nói, khi phác họa lại tiến trình của các cuộc cách mạng công nghiệp. "Với internet, bạn có thể tìm thấy bất cứ thứ gì. Và giờ đây, với trí tuệ nhân tạo đóng vai trò là lớp hạ tầng trên toàn cầu, chúng ta có thể biết mọi thứ và làm mọi việc."

Tiến trình đó dẫn trực tiếp đến thông báo này. Mô hình suy luận đầu tiên của Salesforce được xây dựng bằng cách hậu huấn luyện (post-training) NVIDIA Nemotron 3 Super trên một tập dữ liệu tổng hợp độc quyền, được rút ra từ gần ba thập kỷ triển khai CRM doanh nghiệp.

An toàn AI

Khi Benioff hỏi Huang về vấn đề an toàn AI, Huang đã trả lời thẳng thắn.

"An toàn là tối quan trọng theo nhiều cách. Đó là ưu tiên hàng đầu," Huang nói. "Tuy nhiên, an toàn là một bài toán kỹ thuật. Suy cho cùng, chúng ta đang phát triển các hệ thống máy tính… Nếu bạn xây dựng một sản phẩm hoặc dịch vụ mà bạn không tự tin vào chức năng, khả năng hoặc độ an toàn của nó, thì đừng phát hành nó."

Ông nhắc lại rằng đổi mới và khả năng lãnh đạo phải song hành với an toàn và bảo mật. "Đổi mới, tốc độ và sản phẩm an toàn — đó là một sự lựa chọn sai lầm," Huang nói. "Bạn hoàn toàn có thể đạt được cả hai cùng một lúc. Vì vậy, hãy chạy nhanh nhất có thể. Nhưng nếu tại bất kỳ thời điểm nào bạn cảm thấy công ty đang mất kiểm soát, hoặc sản phẩm không đảm bảo an toàn, hãy tạm dừng lại và đảm bảo rằng bạn đã làm đúng."

Trong suốt bài nói chuyện, Huang đưa ra một tầm nhìn tích cực về tương lai của AI. Ông lưu ý rằng mình là một trong những người đầu tiên phản bác quan điểm cho rằng AI sẽ chấm dứt ngành công nghiệp phần mềm. Ông cũng bác bỏ ý kiến cho rằng AI là mối đe dọa đối với việc làm.

"Nhờ vào tham vọng của chúng ta, cùng với sự thúc đẩy năng suất mà chúng ta có được từ AI, bầu trời là giới hạn," ông nói thêm. "Hãy tham gia vào AI. Đừng để bị bỏ lại phía sau."

"Mọi công ty, mọi doanh nghiệp, mọi quốc gia sẽ trở thành một công ty AI," Huang nói. "Đó sẽ là một doanh nghiệp tác nhân (agentic enterprise)."

"Bầu trời thực sự là giới hạn đối với các Trailblazer của chúng ta," Benioff nói, đề cập đến cộng đồng khách hàng và nhà phát triển của công ty. "Tôi nghĩ công nghệ này, cách nó trao quyền cho mọi người… công nghệ có thể đồng hành cùng họ để thực hiện điều này theo những cách mới đầy kinh ngạc."

Vì NVIDIA Nemotron là mô hình mở, Salesforce có thể tinh chỉnh và chạy mô hình hoàn toàn trong cơ sở hạ tầng của riêng mình. Salesforce kiểm soát các trọng số, mô hình chạy trên hệ thống của Salesforce và không có dữ liệu khách hàng nào được sử dụng trong quá trình huấn luyện hoặc suy luận.

"Không một byte dữ liệu khách hàng nào được sử dụng," Rohan Kumar, chủ tịch phụ trách nền tảng và kỹ thuật của Salesforce, người đã giới thiệu Koa trước khi Huang lên sân khấu, cho biết.

Các mô hình mở đã tăng từ 30% vào đầu năm ngoái lên khoảng 70% hiện nay, Huang giải thích. "Mọi người đang áp dụng các mô hình đóng với tốc độ theo cấp số nhân, nhưng cũng đang xây dựng các AI tùy chỉnh của riêng họ — bởi vì mỗi công ty phần mềm đều là một công ty AI, và mỗi doanh nghiệp đều sẽ trở thành một doanh nghiệp tác nhân và AI." NVIDIA là một trong số đó — đang vận hành trên Salesforce trong các lĩnh vực bán hàng, dịch vụ, tiếp thị và vận hành, và hiện đang thử nghiệm Agentforce cho các quy trình hỗ trợ khách hàng.

Koa được xây dựng bằng cách sử dụng tinh chỉnh có giám sát (supervised fine-tuning) và học tăng cường (reinforcement learning) với NVIDIA NeMo RL, NeMo Gym và NeMo AutoModel.

Tập dữ liệu huấn luyện bao gồm các kịch bản doanh nghiệp tổng hợp trên hơn 14 ngành công nghiệp — sản xuất, dịch vụ tài chính, chăm sóc sức khỏe và du lịch.

Trong Salesforce CRM Bench, một bộ tiêu chuẩn đánh giá mô hình bao gồm các tác vụ thực tế như cập nhật cơ hội, điều phối trường hợp hoặc lên lịch theo dõi, Koa đã đạt hoặc vượt hiệu suất của các mô hình hàng đầu trong các tác vụ CRM với số lỗi ít hơn gấp 3 lần.

Đang được sử dụng

Koa hiện đã được vận hành bên trong Salesforce, cung cấp năng lượng cho một tác nhân nhân viên trong Slack, và đang chuyển sang giai đoạn thử nghiệm với khách hàng vào tháng 10 như một mô hình có thể lựa chọn trong Agentforce, bắt đầu với Formula 1, UChicago Medicine, Baxter Credit Union, 1-800Accountant, Engine và Xero. Dự kiến sẽ khả dụng rộng rãi vào mùa đông năm 2026 tại các khu vực ở Hoa Kỳ.