Startup luật Harvey được OpenAI hậu thuẫn chuyển sang dùng mô hình mã nguồn mở Kimi K3 của Trung Quốc

Theo tin từ IT ngày 23 tháng 8, tờ South China Morning Post đưa tin một công ty khởi nghiệp trí tuệ nhân tạo của Mỹ được OpenAI đầu tư đã xây dựng mô hình nội bộ đầu tiên dựa trên Kimi K3 của phòng thí nghiệm AI Moonshot AI (Trung Quốc). Điều này cho thấy khi chi phí phát triển mô hình AI không ngừng tăng cao, ngày càng nhiều công ty công nghệ phương Tây bắt đầu chuyển sang sử dụng các mô hình có trọng số mở (open-weights) của Trung Quốc.

Harvey, công ty công nghệ pháp lý có trụ sở tại San Francisco, đã thông báo vào thứ Năm theo giờ địa phương rằng mô hình mới của họ, Harvey Tenet, được hậu đào tạo (post-training) dựa trên mô hình trọng số mở Kimi K3. Các nhà đầu tư nổi tiếng của Harvey còn bao gồm Sequoia Capital và Andreessen Horowitz.

Công ty cho biết hệ thống này đã đạt được hiệu suất "dẫn đầu ngành" trong các công việc pháp lý phức tạp.

Đây là một bước chuyển mình quan trọng đối với Harvey. Công ty chuyên cung cấp dịch vụ cho các công ty luật quốc tế lớn và khách hàng doanh nghiệp, trước đây chủ yếu tập trung vào việc tùy chỉnh các mô hình đóng độc quyền từ các "ông lớn" AI Mỹ như Anthropic, OpenAI và Google cho các ứng dụng pháp lý.

Nhà nghiên cứu chính sách AI Simon Hedlin chia sẻ trên mạng xã hội vào thứ Sáu rằng, sự thay đổi của Harvey là một "ví dụ tuyệt vời" về giá trị của các mô hình trọng số mở. Các nhà phát triển có thể tận dụng những mô hình này, thực hiện hậu đào tạo dựa trên dữ liệu của ngành hoặc doanh nghiệp cụ thể, từ đó nâng cao độ chính xác và giảm chi phí suy luận.

Hậu đào tạo (post-training) là quá trình sử dụng các tập dữ liệu chuyên biệt để tối ưu hóa thêm các mô hình nền tảng đa năng, giúp chúng thực hiện các nhiệm vụ cụ thể một cách hiệu quả hơn.

Hedlin cho biết: "Chúng ta vẫn đang ở giai đoạn rất sớm trong việc khám phá xem các mô hình trọng số mở có năng lực cao thực sự có thể làm được những gì." Ông cũng nói thêm: "Đáng tiếc là Mỹ đã tụt hậu trong việc phát triển các mô hình trọng số mở tiên phong."

Harvey được thành lập vào mùa hè năm 2022 và đạt mức định giá 11 tỷ USD trong vòng gọi vốn vào tháng 3 năm nay (Ghi chú của IT: tỷ giá hiện tại tương đương khoảng 74,174 tỷ Nhân dân tệ).

Trong bài đăng trên blog vào thứ Năm, Harvey cho biết trọng tâm nghiên cứu của công ty trong sáu tháng qua là sử dụng các mô hình trọng số mở để tạo ra "trí tuệ pháp lý tiên phong", đồng thời cho phép các công ty luật xây dựng và triển khai các mô hình chuyên dụng.

Theo Harvey, sau khi được huấn luyện trên các tập dữ liệu pháp lý toàn diện, Harvey Tenet đã vượt trội hơn mô hình nền tảng cơ sở của nó cũng như các hệ thống AI tiên phong của Mỹ trong hàng loạt nhiệm vụ tác nhân pháp lý phức tạp và dài hạn, bao gồm cả Fable 5 và GPT-5.6 Sol.

Harvey cho biết phương pháp này cũng giúp cải thiện hiệu quả chi phí. Công ty chỉ ra rằng bản thân các mô hình trọng số mở thường có chi phí trên mỗi Token thấp hơn, và Harvey còn giảm chi phí hơn nữa bằng cách cắt giảm số lượng Token tiêu thụ trong quá trình suy luận.

Harvey cho biết quá trình huấn luyện Harvey Tenet kéo dài hai tháng, sử dụng khoảng 150 GPU Nvidia B300.

Đồng thời, theo báo cáo từ The Information vào thứ Năm dẫn lời Mark Austin, Phó chủ tịch tập đoàn viễn thông AT&T của Mỹ, các mô hình mã nguồn mở bao gồm dòng Nvidia Nemotron hiện đã xử lý khoảng 40% các truy vấn AI do nhân viên AT&T thực hiện.