Cơn 'loạn thần' AI của Cloudflare: Khi người gác cổng đánh mất chính mình

Đã từng có thời Cloudflare làm cho internet trở nên tốt đẹp hơn bằng cách ẩn mình như danh tính của Batman: bảo vệ và chiến đấu với kẻ xấu, vì lợi ích của thành phố Gotham toàn cầu… à ý tôi là internet.

Khi tôi cài đặt Cloudflare cho trang web của mình lần đầu tiên cách đây 10 năm - nó đã giúp tôi tiết kiệm hàng tấn megabyte, tiết kiệm chi phí hóa đơn và khoảnh khắc nó gửi cho tôi báo cáo hàng tháng về hiệu suất trang web… đó là lúc tôi biết Cloudflare (CF) thật TUYỆT VỜI.

Bởi vì Cloudflare làm tốt một vài việc: nó đứng trước trang web của bạn, hứng chịu các cuộc tấn công, lưu trữ nội dung tĩnh (cache), xử lý DNS, và chỉ vậy thôi.

Không nhảm nhí. Hạ tầng tốt. Nhanh. Đáng tin cậy. Nhàm chán theo cách tốt nhất có thể.

Những thứ mới thì không được như vậy.

Quan trọng hơn, đây là ý kiến cá nhân của tôi trên blog cá nhân, bạn có thể không đồng ý, điều đó hoàn toàn ổn với tôi!

Về cơ bản, tôi làm việc tại một startup AI nhỏ, dựa vào CF và tôi là một khách hàng không hẳn là không hài lòng nhưng cũng chẳng hoàn toàn hài lòng về họ.

CF là một doanh nghiệp lớn, một cỗ máy kiếm tiền khổng lồ. Ngày nay họ lớn mạnh hơn bao giờ hết và vẫn điều phối một lượng lớn lưu lượng web hàng ngày (khoảng 1 trong 3 yêu cầu). Một công việc tuyệt vời cho các cổ đông và những người liên quan, lớp bảo mật và bộ nhớ đệm mà họ bán đang làm đúng nhiệm vụ và mang lại lợi nhuận (cổ phiếu đang ở mức cao nhất mọi thời đại khi tôi viết những dòng này).

Bất kể cổ phiếu hoạt động tốt thế nào, vài năm gần đây CF đã tự biến mình thành thứ gì đó hơi "cringey" (gây khó chịu) và mang tính bè phái hơn (nhưng chưa tệ bằng những bên khác, hèm △).

Ngày nay, nó không còn mang lại cảm giác như một công ty được điều hành bởi những kỹ sư giỏi nữa, mà giờ đây là các PM (quản lý sản phẩm) và "vibecoders" với cái mà tôi gọi là chứng rối loạn tâm thần AI: mơ về nó -> cảm nhận về nó -> tung ra nó. Đã mất kết nối với thực tế.

Trước hết là số lượng sự cố xảy ra nhiều hơn bao giờ hết, hãy nhớ vụ React useEffect fkup [0] đó chứ? Thật điên rồ khi điều này lại xảy ra ở một công ty hạ tầng đang vận hành khoảng một phần ba web.

Sự cố là điều khó tránh khỏi, nhưng hãy nói về lời phàn nàn lớn nhất của tôi: DX (trải nghiệm nhà phát triển).

Trải nghiệm nhà phát triển mang lại cảm giác như được chắp vá vào sau cùng.

Nhưng CF là một công ty hạ tầng, với những kỹ sư cừ khôi, chẳng lẽ DX không nên là hàng đầu sao?

Thay vào đó, CF quyết định rằng họ cũng muốn trở thành một nền tảng đám mây cho tất cả mọi người, từ trẻ em, thú cưng cho đến những người thích "vibe".

Làm sao chúng ta đi đến bước đường này? Tư duy của quản lý sản phẩm AI.

Tung ra những thứ cẩu thả, đăng lên X, nhận 200 like rồi lặp lại quy trình.

Thay vì tập trung vào chuyên môn, độ tin cậy và sự đơn giản…

Đây là cách một công ty HẠ TẦNG bị quản lý sản phẩm biến thành thứ gì đó gần giống với vấn đề mà nó từng giải quyết.

Quá nhiều cách để làm cùng một việc, nhưng chẳng có cách nào thực sự tốt.

Khi một công ty hạ tầng bị đè bẹp bởi một tổ chức quản lý sản phẩm toàn diện, bạn biết điều gì sẽ xảy ra tiếp theo: đầu tiên là các tính năng nhân lên. Cách đặt tên biến thành marketing (Hyperdrive? nghe ngầu đúng không? tung ra thôi). Tất cả những gì dường như quan trọng chỉ là vài nguyên mẫu làm dở dang, kiểu "cây nhà lá vườn".

Ví dụ ư? Được thôi -> Hãy nhìn vào mảng lưu trữ dữ liệu.

Họ có D1 (SQLite serverless), Durable Objects với SQLite riêng của chúng, KV, R2, Queues và Hyperdrive để tăng tốc Postgres hoặc MySQL bên ngoài.

VẪN không có PostgreSQL được quản lý hạng nhất thực sự nào mang lại cảm giác bản địa (native). Từ khóa ở đây là nó phải mang lại cảm giác bản địa.

Hyperdrive là một trình quản lý kết nối thông minh và bộ nhớ đệm cho các cơ sở dữ liệu nằm ở nơi khác.

Hữu ích nhưng đó là sự thừa nhận rằng họ chưa bao giờ xây dựng được cơ sở dữ liệu mà hầu hết các ứng dụng nghiêm túc vẫn mong muốn.

Cuối cùng, bạn phải chắp vá ba hoặc bốn sản phẩm lưu trữ lại với nhau và hy vọng tài liệu cho sự kết hợp đó không bị lỗi thời sáu tháng (ai hiểu thì hiểu).

Ok, có lẽ bạn sẽ nghĩ: “ÔNG CHẲNG BIẾT GÌ CẢ”.

Hãy nhìn vào phía tính toán (compute).

Ối.

Compute cũng là một mớ hỗn độn tương tự.

Có Workers. Cũng có Dynamic Workers, các isolate được tạo ra trong runtime, được bán như một giải pháp thay thế nhẹ nhàng cho container dành cho các AI agent và mã nguồn không đáng tin cậy.

Rồi đến Sandboxes (trên Containers).

Rồi đến Containers đầy đủ…

và một loạt các đường dẫn "code mode" xung quanh tất cả những thứ đó, để các agent có thể viết và chạy mọi thứ. Mỗi cái có sự cô lập, thời gian khởi động, giá cả và các ràng buộc khác nhau. Không cái nào chỉ đơn giản là "nơi bạn chạy mã". Việc chọn lựa giữa chúng đồng nghĩa với việc phải đọc nhiều trang tài liệu mâu thuẫn nhau hoặc chậm hơn so với sản phẩm thực tế.

Ok, có lẽ bạn sẽ nói: “NÀY, CHÚNG TÔI CẦN CÁC LỚP TÍNH TOÁN KHÁC NHAU CHO CÁC NHU CẦU KHÁC NHAU”. ĐƯỢC RỒI - CHẮC TÔI LẠI SAI RỒI.

Hãy nhìn vào những thứ mới nhất và được thổi phồng nhất. AI Agents.

Các Agent thậm chí còn ồn ào hơn. Agents SDK. Flue. Project Think. Cloudflare OS (họ vừa mở mã nguồn không gian làm việc agent nội bộ của họ).

Và khả năng quan sát (observability) được chắp vá vào sau đó (sẽ nói thêm ở phần dưới).

Mỗi thông báo mới lại thêm vào một bộ khung hoặc framework khác thay vì hoàn thiện cái họ đã có. Một chiêu trò kinh điển của quản lý sản phẩm: mở rộng bề mặt, tối đa hóa sự thiếu nhất quán đến mức trải nghiệm nhà phát triển giống như một thí nghiệm nội bộ thoát ra khỏi sandbox (hiểu ý tôi chứ?).