Microsoft cho phép triển khai mô hình Kimi K3 của Moonshot AI thông qua Fireworks AI

Theo tin từ IT ngày 30 tháng 7, Microsoft đã đưa ra thông báo vào ngày 28 tháng 7, cho biết người dùng hiện có thể triển khai mô hình Kimi K3 của Moonshot AI trên nền tảng Microsoft Foundry thông qua Fireworks AI.

Lưu ý từ IT: Microsoft Foundry là nền tảng phát triển ứng dụng AI và tác tử (Agent) doanh nghiệp tất cả trong một do Microsoft ra mắt. Nền tảng này tích hợp quản lý mô hình, xây dựng tác tử, quản trị bảo mật và khả năng quan sát vào một kiến trúc đám mây duy nhất, nhằm giúp các nhà phát triển và doanh nghiệp xây dựng, vận hành và mở rộng các ứng dụng AI tạo sinh ở quy mô lớn.

Trong khi đó, Fireworks AI là một nền tảng dịch vụ đám mây tập trung vào việc suy luận và tinh chỉnh AI tạo sinh với tốc độ tối ưu cùng chi phí hiệu quả. Công ty được thành lập vào năm 2022 bởi các thành viên nòng cốt của đội ngũ PyTorch tại Meta (CEO Lin Qiao từng là người đứng đầu PyTorch toàn cầu), trụ sở đặt tại California, Hoa Kỳ.

Microsoft chính thức cho biết người dùng có thể triển khai mô hình Kimi K3 trên Microsoft Foundry thông qua Fireworks AI. Đây là một trong những mô hình mở lớn nhất hiện nay với 2,8 nghìn tỷ tham số.

Cửa sổ ngữ cảnh của mô hình này lên tới 1 triệu Token, đồng nghĩa với việc một yêu cầu duy nhất có thể xử lý khoảng 750.000 từ (tương đương khoảng 10 cuốn tiểu thuyết hoàn chỉnh hoặc một kho mã nguồn đầy đủ).

Tên mô hình

Loại triển khai

Mỗi 1 triệu Token đầu vào

Mỗi 1 triệu Token đầu ra

Mỗi 1 triệu Token đầu vào được lưu trữ (cache)

FW Kimi K3

Data Zone

3,30 USD (tỷ giá hiện tại khoảng 22,4 Nhân dân tệ)

16,50 USD (tỷ giá hiện tại khoảng 111,8 Nhân dân tệ)

0,33 USD (tỷ giá hiện tại khoảng 2,2 Nhân dân tệ)

Tuyên bố quảng cáo: Các liên kết chuyển hướng bên ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin, giúp tiết kiệm thời gian lựa chọn, kết quả chỉ mang tính chất tham khảo. Tất cả các bài viết của IT đều bao gồm tuyên bố này.