Simon Willison Blog
75

Sản phẩm

CORS Chat: Công cụ giao diện web hỗ trợ kiểm thử mô hình LLM cục bộ

(giờ Việt Nam)

Tóm tắt AI

CORS Chat là công cụ web giúp kiểm thử các mô hình LLM chạy qua LM Studio hoặc OpenRouter, hỗ trợ hiển thị trực tiếp hình ảnh SVG ngay khi mô hình đang phản hồi và lưu trữ lịch sử trò chuyện cục bộ.

Bản dịch AI

Tool: CORS Chat

Tool CORS Chat — Trò chuyện trực tiếp với bất kỳ endpoint API nào tương thích với OpenAI Responses có hỗ trợ tiêu đề CORS, tất cả ngay trong trình duyệt của bạn. Bạn có thể cấu hình các endpoint với tiêu đề tùy chỉnh, lưu các cuộc hội thoại cục bộ và quản lý nhiều phiên trò chuyện với các mô hình và thiết lập suy luận khác nhau.

Tôi đã xây dựng công cụ này hôm nay (với GPT-5.6-Sol xhigh) để hỗ trợ kiểm thử Qwen 3.8 27B đang chạy trong LM Studio trên cả chiếc M5 MacBook Pro và NVIDIA DGX Spark của tôi.

Công cụ này cung cấp một giao diện web để tương tác với các endpoint trò chuyện tương thích với OpenAI-Responses. Tôi đã thử nghiệm nó với LM Studio (khi bật tùy chọn --cors) và OpenRouter, cả hai đều hoạt động tốt.

Các cuộc hội thoại được lưu trữ trong trình duyệt và có thể xuất ra dưới dạng JSON để sao chép. Một chi tiết thú vị là công cụ này có thể nhận diện các hình ảnh SVG đang được tạo và hiển thị dần dần trong khung chat ngay cả khi các token vẫn đang được truyền tải.

Đọc bài gốc

Bài viết được AI dịch và tổng hợp tự động từ Simon Willison Blog. Liên kết bài gốc ở phía trên. Dữ liệu đồng bộ qua API công khai được ghi nguồn tại AI HOT (canonical) ↗. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.