Thinking Machines Lab của Mira Murati: Định hình AI lấy con người làm trung tâm qua tùy chỉnh trọng số mô hình

Thinking Machines Lab đã công bố một báo cáo về việc xây dựng AI giúp mở rộng ý chí và khả năng phán đoán của con người. Hầu hết các AI đang được sử dụng hiện nay đều được huấn luyện tại một vài nơi tập trung, sau đó bị "đóng băng". Báo cáo lập luận rằng thiết kế này loại trừ chính những người mà mô hình đó phục vụ. Thay vào đó, các nhà nghiên cứu tại Thinking Machines Lab muốn một hệ thống AI có tính phân tán, tùy biến cao và được định hình bởi chính người dùng.

Đề xuất của Thinking Machines Lab

Phòng thí nghiệm này nêu ra bốn định hướng kỹ thuật. Thứ nhất, huấn luyện các mô hình mạnh mẽ với khả năng tương tác đa phương thức (multimodal) và tính tùy biến. Thứ hai, xây dựng các công cụ cho phép người dùng tự tinh chỉnh (fine-tune) và huấn luyện trọng số mô hình. Thứ ba, phát triển các giao diện giúp mở rộng kênh giao tiếp giữa người và máy. Thứ tư, công bố các nghiên cứu để nhiều kỹ sư hiểu rõ hơn về cách tạo ra các mô hình. Tổng hợp lại, những định hướng này đưa cả tri thức và sự căn chỉnh (alignment) đến gần hơn với người dùng.

Tại sao tri thức phân tán cần AI phân tán

Nằm bên dưới những định hướng này là một quan điểm về chính tri thức. Phần lớn bí quyết chuyên môn đều mang tính ngầm định, cục bộ và được cập nhật liên tục thông qua phản hồi. Một đầu bếp đang tinh chỉnh công thức nấu ăn không thể viết kỹ năng đó vào cơ sở dữ liệu. Báo cáo trích dẫn Michael Polanyi và Friedrich Hayek để củng cố luận điểm này. Việc lập kế hoạch tập trung thường thất bại vì tri thức kiểu này mang tính cá nhân và nhất thời, chứ không phải khan hiếm. Do đó, phòng thí nghiệm lập luận rằng AI phải được phân tán để sử dụng được tri thức phân tán. Họ muốn một AI giúp các tổ chức nuôi dưỡng tri thức đó, thay vì khai thác và thay thế nó.

Cờ vua và toán học là những ngoại lệ được nêu tên. Cả hai đều có các mục tiêu tĩnh, có thể diễn đạt được và không có tri thức ẩn. Vì vậy, cơ chế tự chơi (self-play) và tự giải quyết vấn đề hoạt động rất hiệu quả trong các lĩnh vực này. Ngoài những phạm vi khép kín đó, báo cáo cho rằng chỉ riêng trí thông minh là chưa đủ.

Các nút thắt kỹ thuật được nêu tên

Với khung tư duy đó, báo cáo tái định nghĩa hai giới hạn quen thuộc thành các mục tiêu kỹ thuật. Thứ nhất là kênh giao tiếp: một khung văn bản nhỏ và thời gian chờ đợi lâu. Đây là vấn đề mà các mô hình tương tác của phòng thí nghiệm giải quyết trực tiếp. Các mô hình đó tiếp nhận âm thanh, video và văn bản liên tục, sử dụng các lượt phản hồi micro-turn khoảng 200ms. Giới hạn thứ hai chính là việc đánh giá. Các tiêu chuẩn (benchmark) như của METR đo lường thời gian một mô hình làm việc độc lập. Báo cáo lập luận rằng điều này bỏ lỡ những gì con người và máy móc có thể đạt được khi phối hợp cùng nhau.

Quyền sở hữu và sự căn chỉnh phi tập trung

Ngoài các giao diện, báo cáo chuyển sang vấn đề nơi các giá trị tồn tại. Họ cảnh báo rằng một cơ quan căn chỉnh duy nhất sẽ trở thành một điểm bị kiểm soát tập trung. Các câu lệnh (prompt) chỉ thay đổi hành vi bề mặt, trong khi các thói quen sâu hơn của mô hình vẫn cố định. Vì vậy, phòng thí nghiệm lập luận rằng các giá trị nên được mã hóa vào trọng số mô hình, thay vì trong các câu lệnh. Đây là nơi Tinker API của họ trở nên cụ thể đối với các kỹ sư.

Tinker tinh chỉnh các mô hình mã nguồn mở (open-weights) như Llama và Qwen bằng cách sử dụng LoRA. Nó cung cấp các nguyên hàm (primitives) cấp thấp và cho phép bạn xuất các trọng số adapter di động. Một vòng lặp có giám sát tối thiểu tuân theo mô hình chính thức như sau:

AI tập trung bị đóng băng so với phương pháp tiếp cận phân tán

Nhìn chung, quan điểm của báo cáo tương phản với cách tiếp cận mặc định hiện nay:

Các trường hợp sử dụng kèm ví dụ

Trên thực tế, những ý tưởng này được ánh xạ vào công việc kỹ thuật cụ thể. Ví dụ, một bệnh viện có thể tinh chỉnh một mô hình dựa trên các quy trình riêng của họ. Họ sẽ giữ cả dữ liệu và trọng số adapter tại chỗ. Tương tự, một công ty luật có thể điều chỉnh mô hình theo phong cách riêng của mình. Họ sẽ huấn luyện lại mô hình đó bất cứ khi nào hướng dẫn nội bộ thay đổi. Trong khi đó, một đội ngũ hỗ trợ có thể sử dụng tương tác trực tiếp để sửa lỗi mô hình ngay trong quá trình thực hiện tác vụ. Trong mỗi trường hợp, tổ chức giữ quyền sở hữu thay vì thuê một mô hình cố định.

Những điểm chính cần lưu ý

Nguồn tham khảo