CEO Fly.io từ nhiệm, công ty chuyển hướng sang nền tảng điện toán cho AI Agent 'Sprites'

Chúng tôi là Fly.io, một nền tảng đám mây công cộng, đồng thời là cách yêu thích của chúng tôi để đưa một ứng dụng lên Internet và cũng là cách yêu thích để vận hành các "frontier agent" (tác nhân tiên phong) chuyên về lập trình một cách an toàn. Đây là bài viết về công ty chúng tôi, về tương lai và về Sprites – những chiếc máy tính dành cho các tác nhân mà bạn có thể trải nghiệm ngay bây giờ.

Đây là một bài viết phức tạp. Vì vậy, tôi cần bạn hứa với tôi một điều: nếu đã đọc qua phần giới thiệu này, bạn hãy đọc hết phần còn lại. Đó là vấn đề về danh dự.

Vài tháng trước, Theo Browne đã thực hiện một video đánh giá về "nơi tốt nhất để lưu trữ một ứng dụng mới vào năm 2026". Theo thường dành những lời tốt đẹp cho chúng tôi, và lần này cũng vậy. Nhưng cuối cùng, anh ấy kết luận rằng trong số tất cả các nhà cung cấp mà anh ấy quan tâm, chúng tôi là đơn vị mà anh ấy ít tin tưởng nhất về khả năng vẫn còn tồn tại vào cuối năm nay.

Chà, chết tiệt thật.

Theo đã làm chúng tôi giật mình, bởi vì chúng tôi đang trải qua chuỗi quý kinh doanh mạnh mẽ, bao gồm cả những tháng có doanh thu tốt nhất trong lịch sử công ty. Nhưng nhận định đó cứ luẩn quẩn trong đầu tôi. Nó đánh trúng vào nỗi lo âu của tôi về những gì chúng tôi đang làm và hướng đi của công ty trong tương lai.

Thành thật mà nói, lẽ ra tôi phải lường trước được điều này. Fly.io đã tiến bước trong năm nay, nhưng bản thân tôi lại hơi trì trệ, để công ty chìm trong một cuộc khủng hoảng danh tính chưa được giải quyết.

Tôi sẽ chia sẻ thêm một chút nữa, nhưng tôi sẽ không để bạn phải chờ đợi lâu. Đó là: chúng tôi đã huy động thêm được một khoản vốn lớn. Chúng tôi đang ra mắt phiên bản mới của Sprites, tập trung toàn bộ công ty vào sản phẩm này và giải quyết các vấn đề mà nó nhắm tới. Và tôi sẽ nhường lại vị trí CEO cho Scott Johnston.

Sự phù hợp giữa sản phẩm và thị trường (Product-Market Fit)

Tôi bắt đầu Fly.io với hai nguyên tắc rõ ràng mà có lẽ giờ đây không còn quan trọng nữa.

Thứ nhất, các ứng dụng Internet hoạt động tốt nhất khi chúng nhanh, và điều đó xảy ra khi chúng được triển khai gần người dùng. Tôi đã học được điều này qua nhiều năm làm việc tại Ars Technica, và bắt đầu Fly.io một phần để giải quyết nhu cầu đó. Đây là phương châm của chúng tôi trong vài năm đầu thành lập công ty.

Thứ hai, cơ sở hạ tầng đám mây quá phức tạp. Các nhà phát triển cần những nền tảng có sự linh hoạt của AWS và trải nghiệm người dùng (ergonomics) của Heroku. Khi chúng tôi bắt đầu Fly.io, bạn không thể có được cả hai điều đó cùng lúc, nhưng giờ đây bạn đã có thể, ở đây và ở những nơi khác.

Bạn đọc đến đây và sẽ nói: "Tất nhiên rồi, những điều đó quan trọng mà". Nhưng tôi ở đây để nói với bạn rằng chúng ít quan trọng hơn bạn nghĩ, vì một lý do hiển nhiên — lý do duy nhất mà mọi người còn bàn tán tới. AI đã làm thay đổi hoàn toàn quá trình phát triển phần mềm. "Con chó dingo đã thực sự ăn mất đứa trẻ của chúng ta" (ý nói AI đã làm đảo lộn mọi thứ).

† Trong 18 tháng qua, mỗi khi tôi nói những lời này, chúng lại càng trở nên đúng đắn hơn.

Tôi nghĩ điều này vẫn chưa hoàn toàn thấm thía[†]. Chúng ta vẫn đang cố gắng tích hợp các tác nhân lập trình vào nghề nghiệp của mình như thể chúng là những trình biên dịch đủ thông minh. Nhưng AI không giống như sự khác biệt giữa việc xuất bản mã C và xuất bản Ruby. Nó lớn hơn nhiều.

Mọi người quên rằng trước khi Dan Bricklin phát minh ra bảng tính, mọi "tài liệu Excel" trên thế giới đều là một chương trình máy tính, được xây dựng bởi một lập trình viên. Chỉ trong vài năm, mọi chuyên gia kinh doanh đều trở thành lập trình viên, sử dụng ngôn ngữ lập trình quan trọng nhất thế giới: công thức bảng tính. AI cũng giống như vậy, nhưng ở quy mô lớn hơn. Hầu như bất kỳ ai cũng có thể xây dựng hầu như bất kỳ loại chương trình máy tính nào.

Bây giờ hãy xem xét cơ sở hạ tầng đám mây công cộng truyền thống. Chúng ta lấy các ứng dụng có chức năng cố định, được xây dựng theo các tiêu chuẩn nghiêm ngặt trên các quy trình CI/CD phức tạp và gửi chúng đến hàng triệu người dùng. Nhưng một chương trình máy tính với hàng triệu người dùng sẽ sớm giống như một bảng tính với hàng triệu độc giả. Chúng tồn tại! Nhưng đó không phải là tiêu chuẩn chung.

Đặt cược vào một thiết kế đám mây công cộng mang tính áp đặt từ năm 2020 cũng giống như đặt cược chống lại phần mềm cá nhân hóa, thích ứng. Tôi không nghĩ đó là một vụ cá cược hay. Và ngay cả khi tôi nghĩ vậy, tôi cũng không muốn làm điều đó. Tôi muốn một thế giới nơi bạn bè và gia đình tôi có thể khiến máy tính làm chính xác những gì họ muốn, mà không cần chờ đợi tôi xây dựng mọi thứ cho họ.

Các tác nhân (Agents) muốn gì?

Điều đó đưa chúng ta đến nguyên tắc sáng lập thứ hai, đó là cơ sở hạ tầng đám mây nghiêm túc quá khó để các nhà phát triển sử dụng hiệu quả. Và: điều đó vẫn đúng! Nhưng rõ ràng là điều này không còn quan trọng nữa.

† Trên thực tế, có thể bây giờ việc có một trải nghiệm nhà phát triển được chăm chút kỹ lưỡng với các thiết lập mặc định áp đặt lại là một điều tệ hại. Các tác nhân hoạt động tốt nhất khi mọi thứ được tường minh.

Theo một cách tiếp cận sơ bộ, không ai đọc tài liệu nữa. Họ cũng không tìm hiểu các CLI mới và tìm cách sử dụng chúng thông qua thử và sai[†]. Đó là việc của các tác nhân. Một tác nhân có thể triển khai Fly.io chỉ trong một lần: chỉ cần xây dựng một trang web cục bộ và nói "giờ hãy làm cho nó chạy trên Fly.io", và nó sẽ hoạt động tuyệt vời. Nhưng một tác nhân cũng có thể triển khai AWS chỉ trong một lần. Chúng ta đang làm gì ở đây vậy? Chuyện gì đang xảy ra thế?

Tôi đã viết về điều này vào năm ngoái, trong một bài viết về việc những khách hàng phát triển nhanh nhất của chúng tôi đều là robot. Sau đó, tôi ngừng việc cố gắng giải thích lại những gì chúng tôi đã xây dựng và bắt tay vào tìm hiểu xem khách hàng robot thực sự muốn gì. Đây là những gì tôi đúc kết được.

Điều 1: Các tác nhân lập trình mong đợi được chạy trên máy trạm của nhà phát triển.

Điều 2: Ngay cả trong một môi trường sandbox mà bạn tin tưởng, việc chạy một tác nhân trên máy tính xách tay vật lý của bạn rất phiền phức, vì máy tính của bạn sẽ ngừng chạy khi bạn gập nắp lại. Hãy giơ tay nếu bạn đã từng đi lên hoặc xuống cầu thang với chiếc MacBook đang mở trong năm nay. Tay bạn vẫn hạ xuống phải không? Tôi đoán là nhà bạn không có cầu thang. Và vì vậy, mọi người cuối cùng đều chạy các sandbox tác nhân của họ trên đám mây.

Điều 3: Đám mây công cộng là một nơi khó chịu để chạy các tác nhân. Chúng ta chia máy chủ thành "thú cưng" (pets) hoặc "gia súc" (cattle), nhưng đối với các tác nhân, ngay cả một con bò trong đàn cũng là quá nhiều sự ràng buộc. Bạn muốn, tôi không biết nữa, một con bò dùng một lần, một con bò xuất hiện chính xác khi bạn muốn, tồn tại chính xác bao lâu tùy ý bạn và không tốn kém nhiều — và đây là lý do tại sao các phép ẩn dụ lại khó viết đến vậy.

Đầu năm nay, đội ngũ của chúng tôi đã tạo ra thứ mà tôi tin là một bước đột phá trong kỹ thuật hệ thống và có lẽ là toàn bộ khoa học máy tính: chúng tôi đã ra mắt "con bò dùng một lần". Chúng tôi gọi chúng là Sprites.

Sprites có hình dạng kỳ lạ bắt nguồn từ việc bao bọc lấy những gì mà tôi nghĩ các robot đang tìm kiếm. Bạn có thể tạo hàng trăm hoặc hàng nghìn Sprites một cách nhanh chóng, nhưng tất cả chúng đều có ổ đĩa bền bỉ 100GB. Giống như mọi thứ trên đám mây, chúng có tính phí theo mức sử dụng, nhưng đồng hồ đo sẽ không chạy khi chúng không làm gì cả, và chúng rất thông minh trong việc nhận biết khi nào chúng ở trạng thái nhàn rỗi. Và bạn có thể lưu trữ một ứng dụng trên đó và chia sẻ với đồng nghiệp qua Internet.

Tập hợp các tính năng này tạo nên một đề xuất về các tác nhân. Ngành công nghiệp bị ám ảnh bởi các sandbox. Nhưng robot không muốn sandbox. Chúng muốn máy tính. Đó chính là "con bò dùng một lần" của chúng tôi: một chiếc máy tính dành cho một tác nhân.

Bạn có thể tạo một Sprite ngay bây giờ

Chỉ mất khoảng một phút thôi ✨

Máy tính dành cho các tác nhân

Tôi hài lòng với cách mà Sprites ra mắt. Nhưng thành thật mà nói, Sprites là một dự án bí mật. Chúng tôi thậm chí còn không lưu trữ chúng trên trang web chính của Fly.io! Một nước đi kỳ lạ. Tôi không biện minh cho điều đó. Chúng tôi đã ở trong một cuộc khủng hoảng danh tính. Nhưng mây mù đã tan, và "Máy tính dành cho các tác nhân" (Computers for Agents) từ nay về sau sẽ là trọng tâm của công ty chúng tôi.

† (để hiểu rõ điều đó đúng đến mức nào: lệnh git blame trên toàn bộ cơ sở mã nguồn cho thấy tên tôi xuất hiện nhiều hơn bất kỳ ai khác)

Fly Machines và các tính năng Platform As A Service của chúng tôi vẫn sẽ tiếp tục tồn tại. Nhưng Sprites từng là sản phẩm của một nhóm nhỏ bên trong Fly.io[†], và giờ thì không còn như vậy nữa.

Thông thường, chúng tôi sẽ dành hàng nghìn từ cho nội dung kỹ thuật chuyên sâu về cách chúng tôi xây dựng bất kỳ sản phẩm mới nào. Chúng tôi cũng sẽ làm điều đó cho Sprites. Nhưng tôi đã viết khá dài trong bài này rồi và tôi còn những thứ khác để chia sẻ. Vì vậy, hiện tại, tôi sẽ giữ cho nó ngắn gọn.

Ngoài công việc hậu trường mà chúng tôi đã thực hiện về mở rộng quy mô và điều phối, nu-Sprites giới thiệu hai hệ thống con lớn giúp chúng tôi đạt đến trạng thái mà cuối cùng tôi coi là "hoàn thiện tính năng" cho những gì chúng tôi đang cố gắng thực hiện.

Đầu tiên là Sprite Block Device (SBD). Ngăn xếp lưu trữ Sprites ban đầu là một cấu trúc chắp vá mà tôi tự tay lấy từ JuiceFS và kết nối vào hệ thống của chúng tôi bằng Litestream của Ben Johnson. Bạn nên vui mừng khi biết rằng Ben và Tim Newsham đã tháo dỡ toàn bộ ngăn xếp đó và xây dựng lại từ đầu. Nó nhanh hơn, đáng tin cậy hơn và vẫn thực hiện được việc kiểm tra và khôi phục tức thì (checkpoint-and-restore).

Quan trọng hơn, SBD cho phép phân nhánh ổ đĩa (drive forking): bạn có thể tạo một Sprite mẫu, sau đó nhân bản hiệu quả hàng triệu lần.

Một điều mới mẻ lớn khác trong Sprites là Connectors. Connectors được xây dựng dựa trên công việc chúng tôi đã thực hiện để bảo mật nền tảng cốt lõi: chúng cho phép Sprites thực hiện các yêu cầu được xác thực đến các hệ thống khác mà không cung cấp cho các tác nhân bất kỳ thứ gì hữu ích để đánh cắp dữ liệu. Connectors có các thuộc tính bảo mật thú vị, nhưng cũng dễ sử dụng hơn nhiều so với việc quản lý thủ công các tài khoản và khóa API.

Đây là những tính năng được yêu cầu nhiều nhất của chúng tôi. Đó là lý do tại sao rất nhiều công ty về tác nhân vẫn đang sử dụng Fly Machines nhiều tháng sau khi chúng tôi ra mắt một sản phẩm dành riêng cho họ. Vì vậy, tôi đủ tự tin để đặt cược: trừ khi có một công nghệ ngoài hành tinh mới xuất hiện làm điều gì đó kỳ lạ hơn với khoa học máy tính so với những gì các mô hình Transformer đã làm, Sprites là lựa chọn phù hợp cho khách hàng tương lai của chúng tôi, và một phần rất lớn khách hàng hiện tại của chúng tôi. Điều đó dẫn chúng ta đến: