OpenAI áp đặt lại giới hạn 5 giờ sử dụng cho người dùng Plus và Business Standard

Mọi người đến giờ nên nhận ra rằng họ không đời nào cung cấp lượng tài nguyên tính toán trị giá hàng ngàn đô la chỉ với gói đăng ký 20 đô la vì lòng tốt cả. Các gói cơ bản không dành cho bất kỳ công việc nghiêm túc nào ngoài việc thay thế cho các tìm kiếm trên Google. Tốt nhất hãy coi đó như một bản dùng thử.

Tôi hy vọng mọi người đều nhận ra các token giá rẻ chỉ là một chiêu trò minh bạch để thu hút thêm người dùng trước khi tăng giá. Điều này đã quá rõ ràng ngay từ ngày đầu tiên.

Sự hoài nghi rẻ tiền của bạn làm cho mức giá thấp của OpenAI nghe như một lý do để tránh sử dụng chúng, nhưng điều đó hoàn toàn ngược đời! Chiến lược tốt hơn là hãy sử dụng chúng ngay bây giờ khi giá còn thấp và chuyển đổi sau nếu cần thiết. Không ai biết ai sẽ có mức giá tốt nhất sau này, nên tốt hơn hết là hãy quyết định sau.

Chỉ khi chi phí chuyển đổi thấp. Nếu bạn đang đầu tư vào nền tảng và tích hợp sâu, thì việc lên kế hoạch chuyển đổi có thể không phải là một kế hoạch hay.

Thật tốt khi nhận thức được rằng bạn đang mua một thứ gì đó được trợ giá. Không cần phải hạ thấp tầm quan trọng của việc nhận thức này.

Nhưng nhận thức về điều gì? Chúng ta thực sự không biết biên lợi nhuận của OpenAI đối với suy luận (inference) là bao nhiêu. Chúng ta có cần phải biết không?

Chỉ cần biết rằng thị trường có tính cạnh tranh và các mô hình mới với mức giá tốt hơn thường xuyên được ra mắt là đủ. Điều này có nghĩa là bạn nên có cách để chuyển đổi giữa các mô hình.

Toàn bộ thị trường này được trợ giá nhiều hơn là cạnh tranh. Thị trường sẽ không tồn tại như ngày nay nếu nó không được chống đỡ. Đó mới là vấn đề.

Tôi nhớ những ngày mình có số dư tín dụng hơn 2000 đô la trên Uber vì tôi đã thành thạo chương trình giới thiệu của họ. Những chuyến Uber Black "miễn phí" trong suốt 2 năm!

Khi bạn đang sử dụng những thứ miễn phí mà lẽ ra bạn nên trả nhiều tiền hơn, thì tốt nhất đừng tự lừa dối bản thân.

Trong ví dụ về Uber, việc Lyft cũng tồn tại vào thời điểm đó không quan trọng đối với tôi, một người đang vui vẻ đi lại quanh thành phố bằng Uber Black với giá 0 đồng. Thật không may, chương trình giới thiệu của Lyft không quá béo bở nên tôi không thể chuyển sang...

Điều này hoạt động như thế nào với các nhà cung cấp suy luận đằng sau OpenRouter? Ý bạn là tất cả họ thực sự đều đang thua lỗ sao?

Nếu các bên trung gian cung cấp suy luận là một thị trường khả thi nhờ vào việc các phòng thí nghiệm AI của Trung Quốc/một số phòng thí nghiệm tại Mỹ (hiện tại) sẵn sàng gánh chịu chi phí đáng kể về tính toán/R&D/thu thập dữ liệu trong khi phát hành các trọng số theo các điều khoản cấp phép cởi mở miễn phí, thì đúng, giá cả hiện tại đã bị bóp méo.

Hãy nhận thức rằng đây về cơ bản là một dịch vụ sắp bị ngừng cung cấp. Là bất kỳ khách hàng nào, bạn cần biết tuổi thọ của nó, cộng với việc dự báo/dự đoán bất kỳ thay đổi giá nào. Bạn thực sự không muốn trở nên phụ thuộc. Ngay cả khi có các đối thủ cạnh tranh, vẫn có một số chi phí không nhỏ để chuyển đổi.

Đồng ý, và điều đó nhấn mạnh ý tưởng rằng bạn nên giữ cho các thiết lập của mình có tính di động giữa các nhà cung cấp mô hình bằng cách sử dụng các hệ thống bộ nhớ ngoài và cổng kết nối (connector gateways).

Tôi hy vọng mọi người nhận ra rằng họ nhắm đến việc khiến bạn phụ thuộc vào trí tuệ của họ thay vì trí tuệ của chính bạn.

Nhưng có các mô hình mở (theo hướng bi quan) chỉ chậm hơn 1 năm? Không phải là nếu OpenAI quyết định "rút phích" thì chúng ta sẽ quay lại viết mã bằng tay và tất cả các lập trình viên đã quên cách giải bài toán fizzbuzz sẽ gặp rắc rối đâu.

> chúng ta sẽ quay lại viết mã bằng tay

Chà, với tư cách là một kỹ sư phần mềm (SWE) viết mã bằng tay và không có ý định thuê ngoài trí tuệ của mình cho bất kỳ thực thể nào, tôi cảm thấy hơi bị xúc phạm bởi từ "quay lại".

Bạn có phải là thành viên của một nhóm không? Nếu có, thì bạn chính là trí tuệ được thuê ngoài đó. Quản lý của bạn không viết mọi thứ bằng tay, họ đang thuê ngoài công việc đó cho bạn. Chỉ cần hiểu rằng điều đó có thể thay đổi (ý tôi là tôi đã chuẩn bị tinh thần cho việc đó trở thành dĩ vãng trong vài năm tới). Nếu bạn chỉ viết phần mềm cho sở thích/vui vẻ thì hãy bỏ qua, không gì có thể ngăn cản bạn làm điều đó.

OpenAI thuê tài nguyên tính toán. Có vẻ khó tin khi với những khoản đầu tư khổng lồ mà họ đã chi ra, họ có thể cạnh tranh một cách có lãi với những người chỉ đơn thuần bán thời gian GPU.

Có một lối thoát: Tôi đã để Claude thiết lập các tính năng hỗ trợ AI trong ứng dụng của mình, vì vậy chúng tôi ít phụ thuộc vào chính Claude hơn nhiều. Ứng dụng sử dụng các lệnh gọi API giá rẻ để kiểm tra chất lượng mã và chạy các đợt quét "bài học kinh nghiệm" khác. Cuối cùng, một số trong đó trở thành mã nguồn chính thức.

Tôi cũng vậy. Claude "thích" viết các công cụ để thực hiện kiểm tra mang tính xác định đến mức đôi khi tôi thực sự phải kéo nó lại và chỉ ra rằng một số thứ cần tiếp tục sử dụng LLM. Nhưng ngay cả khi đó, tôi vẫn để nó "giao phó" rất nhiều việc cho các tập lệnh sử dụng các mô hình cực rẻ cho những thứ mà tôi không cần đến Sonnet hoặc mô hình cấp cao hơn. Tỷ lệ chạy trên các mô hình SOTA (hiện đại nhất) cứ giảm dần.

Điều đó quả thực rất rõ ràng, nhưng chết tiệt, cảm giác được hưởng lợi từ "bữa tiệc miễn phí" từ ngày 25 tháng 5 đến ngày 26 tháng 8 thật tuyệt vời.

Bây giờ, hãy xem đợt IPO của Anthropic diễn ra như thế nào.

Hoặc các mô hình hiệu quả hơn/phần cứng nhanh hơn sẽ thu hẹp khoảng cách giữa hiện tại và khả năng sinh lời.

Tôi sẽ không ngạc nhiên nếu cứ mỗi 10 đô la bạn thêm vào chi phí đăng ký, lượng khán giả của bạn sẽ giảm đi một nửa.

Điều đó quy về việc khách hàng thực sự của ChatGPT là ai. 10 đô la sẽ không tạo ra sự khác biệt cho những người đã trả tiền, vì về cơ bản họ là những người tiêu dùng chuyên nghiệp (pro-consumers). OpenAI có thể cung cấp các giải pháp doanh nghiệp cho các công ty lớn, nhưng những thỏa thuận đó nằm ngoài các gói đăng ký hàng tháng trên trang web.

Đối với ChatGPT, tôi thực sự chỉ thấy hai nhóm khách hàng: người tiêu dùng chuyên nghiệp và doanh nghiệp vừa và nhỏ. Nhóm phổ thông chủ yếu sẽ sử dụng Google/Gemini, hoặc một số gói ChatGPT có quảng cáo. Không có mức giá nào đủ thấp để khiến người tiêu dùng trung bình trả tiền cho một dịch vụ AI. Đây là những người sẽ không trả tiền cho tìm kiếm, email và mạng xã hội. Họ chỉ trả tiền cho dịch vụ phát trực tuyến vì không còn cách nào khác.

Điều đó dù sao cũng đang xảy ra, họ không cần thêm dữ liệu hữu cơ cho việc đó đâu.

Hơn nữa, ai quan tâm chứ? Đó là cái giá của sự tiến bộ, tôi không đủ ích kỷ để kìm hãm nhân loại chỉ vì "công việc của tôi".

Họ sẽ vượt qua thôi. Bạn không thể chỉ dừng sự tiến bộ vì quá trình chuyển đổi sẽ khó khăn. Chúng ta vẫn sẽ ở thời kỳ tiền công nghiệp nếu cứ suy nghĩ như vậy.

Tôi đã dành cả sự nghiệp của mình để cố gắng tự động hóa công việc của chính mình.

(Tôi hiểu những gì bạn đang cố nói, tôi chỉ thấy sự mỉa mai đó khá thú vị).

Hoặc chỉ để cung cấp cho người dùng đủ mức sử dụng để tìm ra các danh mục mà nó hữu ích cho họ.

Tôi trả 200 đô la/tháng và không hề hối hận một giây nào - tôi có một quản lý dự án, một trợ lý điều hành, một nhà phân tích kinh doanh, một nhà phát triển phần mềm và một kế toán quốc tế, với một cái giá cực kỳ rẻ.

Chừng nào chưa có con đường dẫn đến lợi nhuận từ việc chuyển từ trợ giá sang trả phí đầy đủ cho các token, thì chúng ta đang khiến họ mất tiền.

Điều này không hoàn toàn đúng, bạn đang khiến họ tốn kém trong ngắn hạn, nhưng bạn đang nuôi dưỡng sự phụ thuộc của mình vào sản phẩm của họ và cung cấp dữ liệu đào tạo cho họ.

Mục tiêu của họ là tạo ra AGI và thay thế con người bằng một thứ gì đó giống với cốt truyện của Horizon Zero Dawn và phần tiếp theo của nó nhưng cực đoan hơn.

Tại sao nó cần phải khớp với Astra?