Đại học Bắc Kinh và StepFun ra mắt TensorCast: Giải pháp quản lý tensor thống nhất, giảm 93.2% độ trễ TTFT

Nội dung dưới đây được lấy từ nền tảng WeChat Official Accounts.

Mẹo nhỏ: Sogou hỗ trợ truy vấn tối đa 40 ký tự, các văn bản từ "" trở đi sẽ bị bỏ qua.

Bài báo mới của DeepSeek đã ra mắt! Hợp tác cùng Đại học Thanh Hoa và Đại học Bắc Kinh để tối ưu hóa suy luận cho các mô hình ngôn ngữ lớn (LLM) dạng tác nhân (agent)!

Machine Heart: Bạn đã chán ngấy những tin tức kiểu "DeepSeek V4 đã đến!" rồi phải không... Ngoài ra, để đảm bảo việc truyền tải dữ liệu quy mô lớn không gây nhiễu cho quá trình suy luận của các mô hình cực kỳ nhạy cảm với độ trễ...

CVer

Tổng quan về triển khai mô hình học sâu (ONNX/NCNN/OpenVINO/TensorRT)

Cập nhật nhanh nhất. Nguồn | Autonomous Driving Heart. Biên tập | DeepBlue Academy. Sau khi đã tốn bao công sức huấn luyện... Chạy suy luận hình dạng trên mô hình: https://github.com/onnx/onnximport...

DeepBlue AI

Hướng dẫn thực hành | Triển khai thực tế với TensorRT: Triển khai mô hình ONNX của YOLOv5

Tác giả | Một chú cá lặn sâu cả ngày. Nguồn | Autonomous Driving Heart. Biên tập | Extreme-Vision. Extreme-Vision... Gọi giao diện suy luận của mô hình để thực hiện suy luận. Sao chép dữ liệu đầu ra của mô hình từ GPU sang...

Extreme-Vision (JiShi Platform)

Lật đổ logic nền tảng của các mô hình thị giác lớn! Tencent mã nguồn mở "cỗ máy nhỏ gọn" Penguin-VL: Loại bỏ CLIP, cho phép các mô hình ngôn ngữ lớn thuần văn bản trực tiếp hiểu được thế giới!

ComfyUI đã hỗ trợ Helios – dự án mã nguồn mở hợp tác giữa Đại học Bắc Kinh và ByteDance: 14B tham số, 19.5FPS, suy luận thời gian thực... Mô hình suy luận, tư duy theo yêu cầu, cắt giảm chi phí suy luận xuống mức tối thiểu. Các lập trình viên frontend / designer chắc chắn sẽ rất phấn khích!...

Một ly Cola bàn chuyện AI

Nhật báo mô hình lớn (Tin tức ngày 13~14 tháng 4)

Suy luận nhanh chất lượng cao với giá cả phải chăng. Tại sao chọn @weaviate_io: Dễ dàng thiết lập... Gemini là một mô hình ngôn ngữ mạnh mẽ, thực hiện tốt các tác vụ như tạo văn bản, chatbot...

LLM SPACE

Phỏng vấn vị trí thuật toán mô hình lớn tại Kuaishou, hỏi cực kỳ chi tiết...

Tại sao cần quan tâm đến tính liên tục của bộ nhớ tensor trong tối ưu hóa suy luận? Bài tập lập trình: Đọc... Đây là kênh trao đổi kỹ thuật dành cho tất cả sinh viên và những người làm trong lĩnh vực học máy/thuật toán/mô hình lớn/nghiên cứu khoa học...

Cộng đồng học máy

Kiến thức AI "phải xem" năm 2026! Tuyển tập "Mô hình lớn/AIGC/GPT-4/Transformer/DL/KG/NLP/CV AI+X"

CMU đề xuất "Hệ thống tác nhân mô hình lớn", khả năng suy luận cao thể hiện năng lực nghiên cứu khoa học tự chủ mới nổi của các mô hình ngôn ngữ lớn [Luận án tiến sĩ Stanford] Kết hợp mô phỏng và điều khiển robot...

Zhuanzhi (Chuyên Tri)

[Báo cáo] Chuyên đề mô hình lớn 2: Sách trắng về hệ sinh thái phát triển mô hình lớn AI năm 2025 (kèm link tải PDF)

Song song hóa Tensor (Tensor Parallelism) phân bổ tính toán của cùng một lớp cho nhiều... Hơn nữa, khi suy luận có thể hợp nhất trọng số adapter trở lại mô hình gốc mà không làm tăng thêm bất kỳ độ trễ nào...

Liên minh chuỗi cung ứng trí tuệ nhân tạo

Kiến thức AI "phải xem" năm 2026! Tuyển tập "Mô hình lớn/AIGC/GPT-4/Transformer/DL/KG/NLP/CV AI+X"

CMU đề xuất "Hệ thống tác nhân mô hình lớn", khả năng suy luận cao thể hiện năng lực nghiên cứu khoa học tự chủ mới nổi của các mô hình ngôn ngữ lớn [Luận án tiến sĩ Stanford] Kết hợp mô phỏng và điều khiển robot...

Zhuanzhi (Chuyên Tri)

Kiến thức AI "phải xem" năm 2026! Tuyển tập "Mô hình lớn/AIGC/GPT-4/Transformer/DL/KG/NLP/CV AI+X"

CMU đề xuất "Hệ thống tác nhân mô hình lớn", khả năng suy luận cao thể hiện năng lực nghiên cứu khoa học tự chủ mới nổi của các mô hình ngôn ngữ lớn [Luận án tiến sĩ Stanford] Kết hợp mô phỏng và điều khiển robot...

Zhuanzhi (Chuyên Tri)

12345678 Trang sau

Tìm thấy khoảng 73 kết quả