Tin ngành
CEO Vercel Guillermo Rauch: Cuộc chiến tách biệt mô hình AI và tác nhân tự hành
(giờ Việt Nam)
Tóm tắt AI
Guillermo Rauch chia sẻ với TechCrunch rằng khi tối ưu hóa cho môi trường thực tế, bài toán cân bằng giữa chi phí và hiệu năng là yếu tố then chốt để tách biệt mô hình AI khỏi các tác nhân (agents).
Bản dịch AI
Nổi tiếng với cơ sở hạ tầng đám mây cho phép các lập trình viên triển khai các tác nhân (agent) mà không cần quản lý máy chủ, Vercel đã âm thầm trở thành một trong những công ty trọng tâm nhất trong lĩnh vực phần mềm AI. Hiện tại, công ty ghi nhận 6 triệu lượt triển khai mỗi ngày, một nửa trong số đó được kích hoạt bởi các tác nhân lập trình, và hơn 1 nghìn tỷ token đi qua cổng AI (AI gateway) của công ty mỗi ngày.
Sau hội nghị ShipNYC của công ty vào tuần trước, chúng tôi đã có buổi trò chuyện với CEO Vercel, Guillermo Rauch, để lắng nghe góc nhìn của ông về thời điểm hiện tại của AI và cách các công ty nền tảng như Vercel cuối cùng lại cạnh tranh với các phòng thí nghiệm lớn. Dưới đây là bản ghi chép đã được biên tập lại đôi chút.
Có vẻ như năm nay cộng đồng đang có một nguồn năng lượng khác biệt, ít các chương trình thử nghiệm hơn và tập trung nhiều hơn vào việc làm thế nào để mọi thứ vận hành hiệu quả trong thực tế. Tôi chắc rằng ông đã thấy điều đó rất nhiều ở các khách hàng, nhưng tôi tò mò muốn biết hành trình đó tại Vercel đã diễn ra như thế nào.
Năm ngoái là về tạo mẫu (prototyping). Mọi thứ đều không có giới hạn, cứ thoải mái tung ra các tác nhân, ai cũng có thể xây dựng, vân vân. Chúng tôi đã làm điều đó và học hỏi được rất nhiều vì chúng tôi có hàng trăm tác nhân được phát triển và triển khai tự nhiên trong nội bộ công ty, và sau đó bạn bắt đầu đối mặt với thực tế của việc đưa các tác nhân vào sản xuất, cũng như một số thách thức đi kèm.
Bài học lớn nhất đối với tôi là các trường hợp sử dụng thành công rực rỡ, hai "ứng dụng sát thủ" của tác nhân. Một là tác nhân lập trình, tất nhiên rồi. Nó đang thúc đẩy phần lớn việc sử dụng token trên toàn thế giới, nhưng khi bạn tạo ra quá nhiều phần mềm, bạn cần một nơi để lưu trữ chúng. Ứng dụng sát thủ thứ hai của tác nhân là tác nhân nội bộ giúp bạn vận hành công ty. Thách thức ở đây là làm thế nào để truy cập dữ liệu một cách an toàn? Làm thế nào để kiểm toán những gì tác nhân đang thực hiện? Làm thế nào để có được dấu vết của tất cả các lệnh gọi công cụ và kiểm soát truy cập mà tác nhân phải thực hiện để hoàn thành công việc?
Để giải quyết vấn đề đó, chúng tôi đã đưa ra một khung làm việc gọi là Eve, nơi bạn có thể thiết lập các hướng dẫn và kỹ năng của tác nhân bằng ngôn ngữ tự nhiên. Một công cụ khác là Vercel Sandbox, nơi bạn đặt tác nhân vào một "cái lồng" nhỏ. Nó vẫn có thể tự do thể hiện trí thông minh của mình, nhưng bạn có thể áp dụng các chính sách về dữ liệu nào nó được phép truy cập và dữ liệu nào được phép rời khỏi sandbox.
Điều đó giúp ông tránh được những loại vấn đề nào?
Đối với Sandbox, lợi thế lớn nhất là kiểm soát dữ liệu. Một rủi ro thực sự của AI mà tôi luôn nghĩ đến là khi bạn sử dụng một IDE lập trình như Devin hoặc Cursor, nếu bạn cài đặt sai, chúng có thể huấn luyện trên toàn bộ cơ sở mã (codebase) của bạn. Tôi nhớ đã nói chuyện với chủ tịch của Airbus về điều này. Bạn sở hữu hàng thập kỷ tài sản là mã C++ rất đặc thù cho kỹ thuật hàng không vũ trụ. Ai đó vào cài đặt nhầm công cụ lập trình và bùm, tất cả mã nguồn đều bị đẩy lên đám mây để huấn luyện.
Tôi rất muốn nghe thêm về trường hợp sử dụng sát thủ thứ hai đó. Chúng ta đều biết về các tác nhân lập trình, nhưng một tác nhân doanh nghiệp nội bộ trông như thế nào trong thực tế?
Có một nhân viên kinh doanh đang ngồi ngoài kia [trong văn phòng của Vercel]. Cô ấy làm việc với cơ sở khách hàng hiện có. Công việc của cô ấy là phát triển các tài khoản hiện tại. Điểm nghẽn đối với những người như cô ấy không phải là sự sáng tạo, trí thông minh hay khả năng xây dựng mối quan hệ, mà là dữ liệu. "Tôi không hiểu tài khoản nào đang tăng trưởng nhanh hơn. Hãy cho tôi biết năm tài khoản đã thêm nhiều chỗ ngồi nhất trong hai tuần qua để tôi có thể ưu tiên công việc của mình." Trước đây cô ấy không thể đặt câu hỏi đó. Cô ấy phải đợi đến khi dự án quý 1 cho một bảng điều khiển bán hàng mới hoàn thành.
Chúng tôi đã ở trong điểm nghẽn đó nhiều năm tại Vercel, và điều đó thực sự gây nản lòng vì về phía R&D, chúng tôi là công ty vận hành nhanh nhất thế giới. Nhưng về phía bộ máy bán hàng, phía kỹ thuật Salesforce, tôi đã rất kém cỏi. Tôi chưa bao giờ mở Salesforce trong đời khi mới bắt đầu.
Bây giờ tôi cảm thấy mình thực sự có thể tạo ra tác động trên toàn công ty, vì Eve có thể được sử dụng cho các tác nhân hướng tới khách hàng của chúng tôi và có thể được sử dụng để cải thiện năng suất. Cùng một công nghệ, chỉ là các API mà thôi. Các tác nhân đang buộc các công ty phải cởi mở hơn, và điều đó sẽ có những tác động dài hạn đáng kể. Rất nhiều gã khổng lồ SaaS xây dựng cả vương quốc của họ trên việc giữ chân dữ liệu của bạn, và điều đó không tương thích với các tác nhân.
Ông thấy mối quan hệ của khách hàng với các phòng thí nghiệm AI lớn đang thay đổi như thế nào?
Năm ngoái, có rất nhiều người chọn một đối tác phòng thí nghiệm — nói rằng họ sẽ xây dựng mọi thứ trên OpenAI hoặc Anthropic. Bây giờ họ nói, tôi hiểu cách mọi thứ vận hành — mô hình, khung làm việc, nền tảng dữ liệu, sandbox, cổng kết nối — mọi mảnh ghép đều có thể cắm và chạy (plug and play). Bạn có thể sử dụng OpenAI, bạn có thể sử dụng Anthropic, hoặc bạn có thể sử dụng Gemini. Chúng tôi đang thấy sự tăng trưởng mạnh mẽ của Gemini, mặc dù nó không xuất hiện trên tin tức nhiều như vậy, vì mọi người hiện đang tối ưu hóa cho sản xuất. Thực tế là, khi bạn tối ưu hóa cho sản xuất, bạn bắt đầu xem xét giá cả/hiệu năng, và các mô hình Gemini có đặc tính giá cả/hiệu năng tuyệt vời. Bạn cũng có thể đưa vào các mô hình mở, vì vậy Deepseek và GLM-5.2 đang cất cánh. Dữ liệu không biết nói dối.
Cũng có những nơi ông đang cạnh tranh trực tiếp với các phòng thí nghiệm, phải không? Chỉ tuần trước, OpenAI đã phát hành một bộ công cụ mới cho phép xuất bản trực tiếp lên web mà không cần phải rời khỏi môi trường của OpenAI.
Đó là bước đi tiếp theo tự nhiên đối với họ khi lưu trữ các trang web nhỏ. Và đó là một cơ hội tuyệt vời cho chúng tôi, vì bây giờ mọi người sẽ nghĩ đến ChatGPT như một công cụ để tạo trang web. Và nếu họ tiếp tục hỏi mô hình về lưu trữ web, mô hình sẽ giới thiệu chúng tôi. Nhưng ông nói đúng, khi các mô hình hoặc nền tảng bổ sung thêm nhiều khả năng, chúng sẽ cạnh tranh trực tiếp với các nền tảng cơ sở hạ tầng đã tồn tại.
Tôi thực sự nghĩ rằng tại thời điểm này, chúng ta đang quyết định xem liệu mô hình và tác nhân có nên được gắn kết với nhau hay không.
Bạn lấy tất cả trí thông minh từ một nơi? Hay bạn lấy một mô-đun, một thư viện hoặc một khối xây dựng từ một nhà cung cấp, rồi sau đó xây dựng trên nền tảng đó. Đó mới giống với cách kỹ thuật phần mềm luôn vận hành, và đó thực sự là những gì chúng tôi đang mang ra thị trường. Chúng tôi sẽ là AWS của thế hệ này, vì vậy rõ ràng chúng tôi đang đấu tranh cho một thế giới của các giao thức mở.
Khi bạn mua hàng thông qua các liên kết trong bài viết của chúng tôi, chúng tôi có thể nhận được một khoản hoa hồng nhỏ. Điều này không ảnh hưởng đến tính độc lập trong biên tập của chúng tôi.
Ý chính từ bài gốc
- Vercel xử lý hơn 1 nghìn tỷ token AI mỗi ngày, với 50% lượt triển khai đến từ các tác nhân lập trình.
- Các công cụ như Eve và Vercel Sandbox giúp doanh nghiệp kiểm soát dữ liệu và đảm bảo an toàn khi sử dụng tác nhân AI.
- Doanh nghiệp đang chuyển dịch từ việc phụ thuộc vào một nhà cung cấp AI sang mô hình lắp ghép linh hoạt để tối ưu hiệu suất chi phí.
- Việc sử dụng tác nhân nội bộ giúp nhân viên truy cập dữ liệu nhanh chóng, phá vỡ các rào cản vận hành truyền thống.
- Vercel ủng hộ các giao thức mở, coi việc tách biệt mô hình và tác nhân là xu hướng tất yếu của kỹ thuật phần mềm hiện đại.
Bài viết được AI dịch và tổng hợp tự động từ TechCrunch. Liên kết bài gốc ở phía trên. AIHOT.vn luôn dẫn nguồn đầy đủ — nếu bạn thấy điểm cần chỉnh sửa, hãy gửi ý kiến tại trang phản hồi.