Cộng đồng mạng tố Claude 'ngu đi', Anthropic lên tiếng: Lỗi không nằm ở mô hình

Thay đổi mô hình lớn hơn đồng nghĩa với việc thông minh hơn?

Dẫn nhập Thay đổi mô hình lớn hơn đồng nghĩa với việc thông minh hơn? Đây có lẽ là hiểu lầm sâu sắc nhất của người dùng Claude Code. Nhiều người vì điều này mà chuyển sang dùng Fable đắt đỏ nhất, nhưng mới đây, Anthropic đã đích thân làm rõ hiểu lầm này.

Bạn đã bao giờ trải qua khoảnh khắc này chưa: Claude Code viết code bị lỗi, phản ứng đầu tiên là vội vàng đổi sang một mô hình mạnh hơn.

Nhưng chiêu này, trong nhiều trường hợp lại không có tác dụng, thậm chí là lãng phí tiền bạc.

Gần đây, Anthropic đã đăng một bài viết dài chính thức để giải thích cụ thể về vấn đề này.

Bài viết dài chính thức của Anthropic

Nguyên nhân bắt nguồn từ việc quá nhiều người nhầm lẫn giữa hai tùy chọn trong Claude Code:

Một là lựa chọn mô hình (Model), hai là mức độ nỗ lực (Effort).

Bài viết dài chính thức của Anthropic

Trước đây, cách hiểu của mọi người về hai tùy chọn này rất đơn giản: đổi mô hình lớn hơn thì AI thông minh hơn; tăng Effort lên thì chẳng qua là để AI suy nghĩ lâu hơn một chút.

Và ngay trong tháng 3 năm nay, hiểu lầm này đã gây ra một sự hỗn loạn không hề nhỏ.

Khi đó, không ít lập trình viên phát hiện ra rằng Claude Code trong tay họ đột nhiên "trở nên ngốc nghếch". File cần đọc thì không đọc, test cần chạy thì không chạy, làm việc được một nửa thì bỏ dở, quay lại yêu cầu bạn cung cấp thêm thông tin.

Thế là, trên GitHub tràn ngập những lời chỉ trích.

Cú đánh mạnh nhất đến từ Stella Laurenzo, Giám đốc AI của AMD.

Cô đã lục lại nhật ký của 6.852 phiên làm việc trên GitHub và thực tế đo đạc được rằng khả năng suy luận của Claude đã giảm 67% so với trước tháng 2, rồi để lại một câu:

Claude không còn đáng tin để thực hiện các công việc kỹ thuật phức tạp nữa.

Claude không còn đáng tin nữa

Ban đầu, mọi người còn tưởng là do mình viết prompt chưa tốt, hoặc cấu hình sai ở đâu đó. Loay hoay mãi mới vỡ lẽ: vấn đề hoàn toàn không nằm ở phía họ, mà là do Anthropic đã âm thầm thay đổi một cài đặt.

Ngày 4 tháng 3, để giảm độ trễ, họ đã hạ mức mặc định của tùy chọn Effort trong Claude Code từ "high" xuống "medium".

Trong nhật ký cập nhật chính thức cũng có ghi, nhưng hầu hết mọi người không để ý, họ chỉ cảm thấy mô hình trong tay mình bỗng dưng trở nên đần độn một cách vô lý.

Sau một tháng chịu đựng, đến ngày 7 tháng 4, Anthropic mới điều chỉnh mức mặc định trở lại như cũ và hoàn lại hạn mức sử dụng cho tất cả người dùng đăng ký.

Và lúc này, đa số mọi người mới biết rằng công tắc này luôn nằm ngay trong tầm tay, nó âm thầm quyết định: liệu AI có sẵn sàng dốc toàn lực làm việc cho bạn hay không.

Model thay đổi bộ não, Effort thay đổi thái độ

Phân tích của Anthropic có thể tóm gọn trong một câu như sau:

Model thay đổi bộ não, Effort thay đổi thái độ.

Trước hết nói về Model, nó thay đổi bộ não.

Đằng sau mỗi mô hình là một tập hợp các "trọng số đóng băng" (frozen weights), năng lực và kiến thức của nó đã được định hình ngay tại thời điểm kết thúc quá trình huấn luyện: chỉ đọc, không thể thay đổi.

Điều này có nghĩa là, prompt bạn nhập vào khi suy luận, file CLAUDE.md, hay đoạn code bạn dán vào ngữ cảnh, tất cả đều không thể thay đổi tập trọng số này: bạn có thể hướng dẫn nó, nhưng không thể "huấn luyện" nó.

Thay đổi mô hình, về bản chất là thay đổi toàn bộ tập trọng số để xử lý công việc của bạn, vì vậy nó giải quyết vấn đề "có biết làm hay không".

Một thư viện không tồn tại tại thời điểm huấn luyện mô hình, nếu bạn đưa toàn bộ tài liệu cho nó, nó có thể học và dùng ngay, nhưng điều đó chỉ có tác dụng với yêu cầu lần này, bản thân mô hình không ghi nhớ lấy một chữ, quay đầu là quên ngay.

Việc nó thỉnh thoảng nghiêm túc gọi một API hoàn toàn không tồn tại cũng là cùng một lý do. Đó không phải là lỗi kiểm tra, mà là các trọng số đang làm theo thói quen cũ trong quá trình huấn luyện, cố gắng lắp ghép ra một thứ gì đó.

Nhìn sâu hơn vào tầng dưới, mọi thứ sẽ rõ ràng hơn. Dòng code `const x = await fetch` mà bạn viết, trong mắt mô hình trước tiên được cắt thành từng token, mỗi token được đổi thành một con số trong từ điển (vocabulary).

Nguồn ảnh: Bài viết blog chính thức của Anthropic

Một dòng code bạn viết, sau khi cắt thành token sẽ tương ứng với một số nguyên trong từ điển: `const` là 1078, `await` là 2597, từ điển có khoảng 100.000 từ. Thứ mà mô hình nhận được không bao giờ là văn bản, mà là chuỗi các con số này.