Amazon Bedrock chính thức tích hợp mô hình Kimi K3 của Moonshot AI

Theo tin từ IT ngày 21 tháng 9, Amazon Bedrock, nền tảng dịch vụ trí tuệ nhân tạo thuộc Amazon Web Services (AWS), gần đây đã thông báo tích hợp mô hình Kimi K3, mang đến một lựa chọn mới cho công việc lập trình.

Theo tìm hiểu của IT, Kimi K3 là mô hình ngôn ngữ lớn do Moonshot AI phát triển. Phía nhà sản xuất tuyên bố đây là mô hình mã nguồn mở đầu tiên đạt quy mô 2,8 nghìn tỷ tham số. Mô hình này hỗ trợ khả năng thị giác (vision) nguyên bản, sở hữu cửa sổ ngữ cảnh 1 triệu Token, rất phù hợp để thực hiện các công việc như lập trình dài hạn và phân tích đa tài liệu.

Amazon Bedrock sẽ cung cấp cho Kimi K3 các ranh giới bảo mật tương tự như các mô hình đóng, với cơ chế kiểm soát truy cập, mã hóa và kiểm toán thống nhất. Kimi K3 là mô hình trọng số mở đầu tiên trên Amazon Bedrock hỗ trợ bộ nhớ đệm gợi ý (prompt caching) tường minh. Khi tái sử dụng ngữ cảnh trong các lần gọi mô hình liên tiếp, người dùng có thể tận dụng tính năng này để giảm độ trễ và chi phí đầu vào.