Nghiên cứu
Mistral AI nhận bằng sáng chế về cơ chế gọi công cụ thông qua thực thi mã trong môi trường sandbox
(giờ Việt Nam)
Tóm tắt AI
Mistral AI vừa được cấp bằng sáng chế cho phương pháp cho phép LLM tạo mã để gọi công cụ, thực thi trong sandbox, tạm dừng để xử lý yêu cầu từ client rồi tiếp tục chạy, giúp tối ưu hóa khả năng tương tác của AI.
Bản dịch AI
1. Một phương pháp, bao gồm:
tiếp nhận, tại một máy chủ, yêu cầu của người dùng về việc thực thi một hoặc nhiều lệnh gọi công cụ (tool calls);
tạo, bởi một mô hình ngôn ngữ lớn (LLM), một khối mã trong một ngôn ngữ lập trình, khối mã này được cấu hình để đóng gói một hoặc nhiều lệnh gọi công cụ đó;
thực thi, bởi máy chủ, khối mã trong một môi trường sandbox;
để phản hồi việc nhận được một lệnh gọi công cụ đang chờ xử lý, tạm dừng việc thực thi khối mã;
truyền lệnh gọi công cụ đang chờ xử lý đó đến một client để thực thi;
tiếp nhận, từ client, kết quả đầu tiên của lệnh gọi công cụ đang chờ xử lý;
tiếp tục thực thi khối mã và thay thế lệnh gọi công cụ đang chờ xử lý bằng kết quả đầu tiên của nó trong khối mã; và
trả về kết quả thứ hai của khối mã đã thực thi cho LLM.
Bài viết được AI dịch và tổng hợp tự động từ Hacker News Nổi bật (buzzing.cc bản dịch tiếng Trung). Liên kết bài gốc ở phía trên. Dữ liệu đồng bộ qua API công khai được ghi nguồn tại AI HOT (canonical) ↗. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.