8 dự báo về kỷ nguyên học tập liên tục của AI

Tôi đã giải thích ở những nơi khác lý do tại sao tôi cho rằng học tập liên tục (continual learning) là cần thiết. Tôi không nghĩ bạn có thể sở hữu những AI thực hiện toàn bộ công việc một cách thành thạo như con người nếu chúng chỉ bị buộc phải viết các tệp Markdown từ phiên này sang phiên khác.

Để đưa ra một ví dụ minh họa, hãy tưởng tượng nếu cách các sinh viên phải học chơi kèn saxophone là: một sinh viên cố gắng chơi nó từ con số không, sau đó sau phiên đầu tiên, cô ấy viết ra một loạt các ghi chú, rồi sinh viên tiếp theo đang đợi bên ngoài phòng nhạc – người cũng chưa bao giờ chơi saxophone – đọc tất cả các ghi chú đó trước khi thử chơi, và cứ tiếp tục như vậy. Ngay cả khi bạn có một chuỗi vô tận các sinh viên chưa từng biết chơi saxophone đang đợi bên ngoài phòng thu và có thể viết ghi chú cho người tiếp theo, thì cũng không có chuỗi văn bản nào họ có thể viết cùng nhau cho phép sinh viên thứ N bên ngoài chơi thành thạo ngay trong lần thử đầu tiên. Đến một lúc nào đó, bạn phải tích lũy kinh nghiệm vào trong não bộ. Tôi nghĩ điều tương tự cũng sẽ đúng với rất nhiều kỹ năng và kiến thức mà chúng ta muốn AI học được ở tất cả các nơi làm việc khác nhau mà chúng được triển khai.

Được rồi, vậy điều gì sẽ thay đổi về AI một khi chúng ta có học tập liên tục?

Rất nhiều đề xuất được đưa ra để quản lý AI đều giả định rằng bạn huấn luyện một mô hình, rồi sau đó mới triển khai nó. Và do đó, nếu chúng ta thực hiện một loạt các kiểm tra trước khi mô hình được triển khai, chúng ta có thể đảm bảo rằng nó sẽ không hỗ trợ các cuộc tấn công mạng hoặc tự cải thiện đệ quy. Nhưng nếu mô hình cơ sở (base model) được cập nhật mỗi ngày dựa trên hàng triệu phiên làm việc mà nó thực hiện thì sao? Đây là một trong nhiều lý do tại sao tôi cho rằng việc chốt cứng một chế độ an toàn theo quy định vào lúc này là không khôn ngoan. Chúng ta đơn giản là không biết mình sẽ đối mặt với loại công nghệ nào ngay cả trong một năm tới, chứ đừng nói đến năm hay mười năm nữa, và chúng ta sẽ củng cố một cách tiếp cận lỗi thời và có khả năng phản tác dụng trong việc xử lý các mối đe dọa từ AI. Trong chừng mực chính phủ thực sự muốn thực hiện một số hình thức đánh giá an toàn đối với các nhà cung cấp mô hình, sẽ hợp lý hơn nếu thực hiện kiểm tra rủi ro hàng tháng hoặc hàng quý thay vì chọn ra một thời điểm đặc biệt nào đó diễn ra sau khi quá trình huấn luyện kết thúc và trước khi quá trình triển khai bắt đầu, bởi vì đó sẽ không còn là một danh mục khác biệt có ý nghĩa trong tương lai.

Cách các phòng thí nghiệm thực hiện căn chỉnh kỹ thuật (technical alignment) sẽ cần phải thay đổi hoàn toàn. Hầu như tất cả các kỹ thuật hiện nay đều tập trung vào vấn đề làm thế nào để một tập hợp trọng số cố định (frozen set of weights) hoạt động tốt trong quá trình triển khai. Tôi không biết nhiều nghiên cứu về câu hỏi làm thế nào để đảm bảo rằng, ngay cả với các cập nhật trọng số liên tục, hệ thống AI không bao giờ trở thành nạn nhân của các cuộc tấn công jailbreak hoặc biến đổi thành một nhân cách lừa dối hoặc độc hại. Và nếu các AI cũng đang tổng hợp kiến thức giữa những người dùng, làm thế nào để bạn ngăn người dùng chèn cửa sau (backdoor) hoặc một số khuynh hướng độc hại vào mô hình cơ sở? Theo một nghĩa nào đó, nó thực sự gần hơn với vấn đề căn chỉnh con người - con cái của bạn ra ngoài và học những điều mới, đôi khi bị tiêm nhiễm bởi các hệ tư tưởng điên rồ hoặc ma túy hay thứ gì đó - nhưng bạn hy vọng rằng mình đã cung cấp cho chúng đủ nhận thức thông thường và các giá trị cơ bản để cải thiện bản thân theo cách tự định hướng, mà không kết thúc với những niềm tin siêu kỳ quặc và ghét bỏ nhân loại.

Sự đa dạng của các trí tuệ AI sẽ tăng lên. Hiện tại, có ít hơn 5 trí tuệ AI nổi bật, và tất cả chúng đều khá giống nhau do được huấn luyện trên cùng một tập dữ liệu. Nhưng nếu các AI đang học hỏi từ kinh nghiệm, và kinh nghiệm đó khác biệt giữa các AI khác nhau, chúng ta có thể thấy những AI thực sự khác biệt xuất hiện ở đầu ra.

Khi việc triển khai trở thành một phần của quá trình huấn luyện, lợi thế của việc dẫn đầu sẽ tăng tốc. Nếu bạn có mô hình tốt nhất, và nhiều người sử dụng AI của bạn cho công việc phức tạp và hữu ích hơn, đồng thời cung cấp cho nó nhiều phản hồi mà nó có thể tích hợp ngoài cửa sổ phiên làm việc, thì mô hình của bạn sẽ trở nên thông minh hơn nữa.

Nếu mô hình học hỏi chủ yếu từ việc triển khai, các phòng thí nghiệm sẽ cảm thấy áp lực phải triển khai mô hình thông minh nhất của họ sớm hơn. Anthropic đã sử dụng Mythos nội bộ từ tháng Hai. Nhưng họ chỉ phát hành mô hình này ra công chúng vào tháng Sáu. Trong một chế độ học tập liên tục, khoảng cách bốn tháng giữa nội bộ và bên ngoài đồng nghĩa với việc từ bỏ bốn tháng học tập từ triển khai. Đối thủ cạnh tranh của bạn, người phát hành sớm hơn, có thể tệ hơn bạn vào ngày ra mắt, nhưng họ lại có cơ hội sử dụng nhiều kinh nghiệm thực tế hơn để trở nên tốt hơn.

Học tập liên tục sẽ tạo ra một "con hào" rõ ràng cho các phòng thí nghiệm AI hàng đầu mà hiện tại họ đang thiếu. Nhiều người đã đặt câu hỏi, làm thế nào các phòng thí nghiệm AI thực sự kiếm được tiền? Khi tôi hỏi Dario câu hỏi này trên podcast của mình, anh ấy đã so sánh với các nhà cung cấp dịch vụ đám mây, những người cũng cung cấp nhiều dịch vụ không khác biệt, nhưng vẫn kiếm được biên lợi nhuận cao từ chúng. Nhưng lý do biên lợi nhuận đám mây cao là vì việc chuyển đổi từ đám mây này sang đám mây khác rất tốn thời gian và đắt đỏ. Tuy nhiên, hiện tại không có chi phí chuyển đổi cho các mô hình AI. Không có gì ngăn cản tôi bắt đầu một kho lưu trữ phần mềm với Codex và sau đó hoàn thành nó với Claude Code. Nhưng một khi chúng ta có học tập liên tục và mô hình bạn đang làm việc cùng thực sự trở nên tốt hơn khi nó tương tác với bạn từ phiên này sang phiên khác, thì thực sự có những chi phí chuyển đổi khá đáng kể. Nếu bạn muốn thay đổi AI mà bạn đang sử dụng, về cơ bản bạn phải sa thải một nhân viên đã có hàng tháng kinh nghiệm về tổ chức của bạn và thay thế họ bằng một người mới mà bạn phải đào tạo lại từ đầu. Một khi bạn đã bị khóa chặt như thế này, các nhà cung cấp mô hình có thể yêu cầu biên lợi nhuận khá cao.

Các doanh nghiệp sẽ hiểu rõ điều này. Họ sẽ cố gắng tránh kiểu bị khóa chặt này. Nhưng nếu sự lựa chọn là bạn hoặc bị khóa chặt vào một nhà cung cấp mô hình, hoặc bạn bỏ lỡ tính năng siêu giá trị này nơi mô hình cải thiện cho bạn qua từng phiên làm việc thì sao? Nếu việc sử dụng thực tế trở thành cách chính để các mô hình cải thiện, thì các phòng thí nghiệm có thể trợ cấp cho người dùng và doanh nghiệp cho phép mô hình huấn luyện trên các phiên làm việc của họ, đặc biệt là trong các công việc khó khăn và quan trọng về mặt kinh tế. Giống hệt cách Google cung cấp dịch vụ tìm kiếm miễn phí. Và ngược lại, các phòng thí nghiệm có thể nói rằng bất kỳ doanh nghiệp nào từ chối để họ huấn luyện trên các phiên làm việc của mình sẽ không được quyền truy cập vào các mô hình tốt nhất. Với cả củ cà rốt và cây gậy, các phòng thí nghiệm sẽ cố gắng khiến người dùng cho phép AI học hỏi từ kinh nghiệm. Tôi đang bỏ qua thực tế rằng có sự khác biệt giữa việc cập nhật tập hợp trọng số của một người dùng và việc gộp tất cả các nhánh trọng số khác nhau này trở lại mô hình chính, và cái sau có thể khó khăn hơn về mặt kỹ thuật, nhưng đến đúng thời điểm, điều đó cũng sẽ được giải quyết.

Huấn luyện AI vốn đã có lợi thế kinh tế nhờ quy mô lớn (lý do lý thuyết để kỳ vọng điều này là bạn có thể phân bổ chi phí huấn luyện đắt đỏ cho nhiều người dùng hơn, và bằng chứng thực tế là cho đến nay, doanh thu của các phòng thí nghiệm đã tăng nhanh hơn chi phí tính toán của họ). Nhưng học tập liên tục cũng có thể dẫn đến lợi thế kinh tế nhờ quy mô trong suy luận (inference) cho người dùng cuối, cụ thể là từ việc xử lý theo lô (batching), nếu thông tin theo từng công ty yêu cầu cập nhật trọng số đầy đủ thay vì nằm trong các bộ điều hợp hạng thấp (low rank adapters). Phép tính nhẩm cho thấy quy mô lô suy luận tối ưu cho một mô hình thưa (sparse model) như DeepSeek V3 là > 2.400 (nghĩa là trừ khi mô hình của bạn đang đồng thời tạo ra chừng đó chuỗi cùng một lúc, bạn đang sử dụng chưa hết công suất tính toán của mình). Nếu bạn muốn hiểu tại sao, hãy xem tập đầy đủ của tôi với Reiner Pope về kinh tế học suy luận. Nhưng dù sao đi nữa, điểm mấu chốt ở đây là một tập hợp trọng số nhất định chỉ được phục vụ hiệu quả khi hàng nghìn chuỗi đang giải mã dựa trên nó cùng một lúc. Một công ty lớn có nhân viên và các tác nhân tạo ra lưu lượng truy cập đồng thời lớn như vậy có thể phục vụ hiệu quả nhánh trọng số được cập nhật liên tục của họ; một người dùng cá nhân tự phục vụ ở quy mô lô bằng 1 có thể phải chịu mức phạt hiệu suất tính toán hơn 100 lần. Vì vậy, kinh tế học của việc phục vụ các trọng số cá nhân hóa ủng hộ mạnh mẽ các tổ chức lớn.

Sẽ còn nhiều điều thay đổi nữa vào thời điểm học tập liên tục hoạt động hiệu quả, và những thay đổi quan trọng nhất có lẽ là những điều khó dự đoán nhất. Nhưng những điều nêu trên có vẻ đã rõ ràng ngay cả lúc này.