ByteDance tái cấu trúc đội ngũ Seed, dọn đường cho siêu mô hình 5 nghìn tỷ tham số

Theo tin từ IT ngày 19 tháng 8, tối nay (19/8), LatePost đưa tin bộ phận mô hình lớn Seed của ByteDance đã hoàn tất đợt tái cơ cấu tổ chức mới vào tuần trước. Phần quan trọng nhất là Seed Foundation Model (Mô hình nền tảng Seed) đã thành lập bốn bộ phận cấp một mới:

Pretrain Data: Do Lý Thành Cương (Li Chenggang) phụ trách. Bộ phận này được hợp nhất từ các nhóm dữ liệu tiền huấn luyện vốn nằm rải rác ở các mảng mô hình văn bản, lập trình, hiểu thị giác và giọng nói, chịu trách nhiệm thống nhất dữ liệu đa phương thức cho mô hình Omni mới, cũng như công việc dữ liệu cần thiết cho việc tiền huấn luyện các mô hình siêu lớn.

Horizon RL: Do Đường Thịnh Vũ (Tang Shengyu) phụ trách. Bộ phận này tích hợp các nhóm hậu huấn luyện trước đây vốn nằm rải rác ở các mảng hậu huấn luyện, suy luận và hiểu thị giác, chủ yếu chịu trách nhiệm về học tăng cường (reinforcement learning) nhằm nâng cao giới hạn trí tuệ cơ bản của mô hình.

Product Posttrain-Work: Do Tần Vũ Gia (Qin Yujia) phụ trách. Bộ phận mới này chủ yếu phục vụ các ứng dụng B-end, chịu trách nhiệm tích hợp và phát hành các mô hình Agentic, đồng thời tối ưu hóa khả năng Agentic của mô hình cho các kịch bản văn phòng, bao gồm việc hỗ trợ chế độ tác vụ cho Doubao và Dola.

Product Posttrain-Chat: Được đổi tên từ nhóm Application vốn do Chu Văn Giai (Zhu Wenjia) phụ trách, chủ yếu phục vụ các ứng dụng C-end, chịu trách nhiệm tích hợp và phát hành các mô hình đối thoại, phối hợp phân công công việc với Product Posttrain-Work.

Người đứng đầu bốn bộ phận mới đều báo cáo trực tiếp cho Ngô Vĩnh Huy (Wu Yonghui). Ngoài ra, Seed cũng bổ nhiệm các trưởng bộ phận riêng cho mảng an toàn AI và các hướng nghiên cứu tiên phong khác. Trong thông báo điều chỉnh lần này, Seed đề cập: "Hợp nhất các công việc tương tự, giảm thiểu sự chồng chéo (overlap), tập trung nguồn lực lại với nhau".

Trước đó, Seed chủ yếu phân chia đội ngũ theo phương thức và hướng nghiên cứu, các mảng như văn bản, mã nguồn, thị giác, suy luận đều có đội ngũ dữ liệu và hậu huấn luyện riêng. Cơ chế này có lợi cho việc nhanh chóng bù đắp các năng lực khác nhau trong giai đoạn đầu phát triển mô hình lớn, nhưng ranh giới giữa các nhóm ngày càng trở nên mờ nhạt khi các hướng nghiên cứu tăng lên, dẫn đến tình trạng "phát minh lại bánh xe", làm tăng chi phí giao tiếp và phối hợp liên nhóm.

Theo tìm hiểu của IT, đầu tháng này, truyền thông đã đưa tin ByteDance đang thảo luận về việc huấn luyện mô hình có quy mô tham số vượt quá 5 nghìn tỷ. Mô hình này sẽ vượt qua Qwen 3.8-Max (2,4 nghìn tỷ tham số) của Alibaba và K3 (2,8 nghìn tỷ tham số) của Moonshot AI, đồng thời cũng là mô hình có quy mô tham số lớn nhất được biết đến tại Trung Quốc hiện nay. Thông thường, quy mô mô hình càng lớn thì mức độ thông minh thường càng cao, tuy nhiên kế hoạch này vẫn đang ở giai đoạn đầu.

Chính kế hoạch này đã tạo thêm quyết tâm và động lực mạnh mẽ hơn cho ByteDance trong việc phá vỡ ranh giới đội ngũ và mô hình phân công cũ. Một thay đổi rõ rệt trong đợt điều chỉnh này là việc chia tách các nhóm phụ trách hậu huấn luyện ứng dụng thành hai hướng Work và Chat dựa trên tác vụ người dùng.

Đọc thêm:

Quy mô lớn nhất được biết đến trong nước! Tin tức cho biết ByteDance đang thảo luận về việc huấn luyện mô hình hơn 5 nghìn tỷ tham số