Microsoft cân nhắc tích hợp mô hình Kimi K3 của Moonshot AI vào Copilot

Theo báo cáo từ The Information, Microsoft đang thử nghiệm nội bộ mô hình Kimi K3 của Moonshot AI và đánh giá liệu một số yêu cầu suy luận (inference requests) của Copilot hiện đang được xử lý bởi các mô hình của OpenAI và Anthropic có thể chuyển sang Kimi K3 hay không. Microsoft vẫn chưa đưa ra quyết định cuối cùng về việc thay thế bất kỳ mô hình nào.

Microsoft ước tính rằng việc chuyển một phần khối lượng công việc của Copilot sang Kimi K3 có thể giúp giảm tới 600 triệu USD chi phí hạ tầng đám mây hàng năm. Đánh giá này phản ánh nỗ lực rộng lớn hơn của Microsoft trong việc sử dụng đa dạng các mô hình AI và giảm sự phụ thuộc vào một nhà cung cấp duy nhất, đồng thời kiểm soát chi phí phục vụ cho khối lượng lớn các yêu cầu AI.

Kimi K3 được cho là đang được đánh giá không chỉ về hiệu suất trong lập trình và suy luận, mà còn về hiệu quả chi phí đối với các tác vụ cụ thể của Copilot. Bất kỳ quá trình triển khai nào cũng sẽ cần xem xét đến các yếu tố về tích hợp kỹ thuật, chủ quyền dữ liệu, bảo mật và kiểm soát xuất khẩu, và ban đầu có thể chỉ giới hạn ở các khối lượng công việc ít nhạy cảm hơn. [The Information]