Gergely Orosz thăm OpenAI: Cách Codex vận hành 'nhà máy' phần mềm tự động

Hiếm khi nào chúng ta được làm việc với một ngân sách token không giới hạn, nhưng tại OpenAI, đó là điều mà tất cả các kỹ sư, nhà nghiên cứu, đồng nghiệp bộ phận tài chính và marketing đều đang thực hiện. Gần đây, tôi đã ghé thăm một trong những phòng thí nghiệm tiên phong hàng đầu thế giới để tìm hiểu cách OpenAI vận hành hiện nay – và có cái nhìn thoáng qua về hướng đi tương lai của nghề kỹ thuật phần mềm.

Rất nhiều thứ đã thay đổi kể từ khi tôi đến thăm trụ sở OpenAI vào năm ngoái. Chỉ trong vòng một năm, Codex đã chuyển mình từ một công cụ "có thì tốt" trở thành xương sống cho hầu hết mọi hoạt động tại công ty.

Để tìm hiểu thêm, tôi đã trò chuyện với bảy lãnh đạo kỹ thuật và kỹ sư tại đây: Venkat Venkataramani (Phó chủ tịch Kỹ thuật, Hạ tầng Ứng dụng), Sulman Choudhry (Trưởng bộ phận Kỹ thuật, ChatGPT), Andrew Ambrosino (Trưởng nhóm, Desktop), Joe Gershenson (Trưởng nhóm, Core Agent), Akshay Nathan (Trưởng nhóm Kỹ thuật, Năng suất), Ahmed Ibrahim (Kỹ sư, Codex) và Steve Coffey (Kỹ sư, Responses API). Cảm ơn tất cả mọi người đã tham gia!

Hôm nay, chúng ta sẽ đề cập đến:

Codex chiếm lĩnh OpenAI. Chỉ trong vài tháng, gần như tất cả nhân viên không thuộc bộ phận kỹ thuật tại OpenAI đã chuyển sang sử dụng Codex và ChatGPT Work mà không cần bất kỳ chỉ thị nào từ cấp trên.

Sự lụi tàn của IDE và pull request. Việc sử dụng IDE đã giảm kể từ tháng 1, khi mức độ sử dụng Codex bắt đầu tăng vọt. Các PR và quy trình đánh giá mã nguồn (code review) cần phải được suy nghĩ lại.

Nhà máy phần mềm tác tử (agentic) của OpenAI. OpenAI đã xây dựng một "nhà máy phần mềm" với nhiều vòng lặp phản hồi tự động, dựa trên tác tử: ví dụ, Perf Factory giám sát quá trình sản xuất và kích hoạt các tác tử Codex để tự động sửa lỗi hiệu năng.

Cách các công cụ và thực tiễn kỹ thuật đang thay đổi. Các công cụ nội bộ tự xây dựng đang dần được thay thế bằng Codex, vốn ngày càng được ưu tiên sử dụng để gỡ lỗi thay vì các công cụ chuyên biệt. Hiệu suất của Harness là yếu tố sống còn trong các nhà máy phần mềm.

Kỹ thuật cho hàng tỷ người dùng: cách OpenAI mở rộng quy mô hạ tầng. Họ ưu tiên mua trước và tự phát triển sau. Ngoài ra còn có các vấn đề về phân bổ hạ tầng địa lý, chiến thuật lập kế hoạch năng lực và những thách thức đi kèm.

Làm cho API của OpenAI trở nên đáng tin cậy và hiệu quả hơn. CPU đang trở thành điểm nghẽn, việc triển khai chậm hơn có chủ đích và cách giải quyết các thách thức về tải hệ thống.

Công việc kỹ thuật phần mềm đang thay đổi như thế nào. Các chuyên môn kỹ thuật đang dần biến mất, khả năng phán đoán và quyền chủ động trở nên quan trọng hơn, và chỉ cần một hoặc hai kỹ sư là đủ để thực hiện thành công các dự án viết lại và di chuyển hệ thống vốn trước đây được coi là "bất khả thi".

Trước khi bắt đầu, một cập nhật về lịch trình: Tôi đang ở New York trong tuần này để tham dự hội nghị LDX3 và ghé thăm một vài công ty khởi nghiệp cũng như công ty công nghệ trong thành phố, vì vậy sẽ không có bản tin The Pulse vào thứ Năm. Mọi thứ sẽ trở lại bình thường vào tuần tới!

Phần cuối của bài viết này có thể bị cắt bớt trên một số ứng dụng email. Hãy đọc toàn bộ bài viết một cách trọn vẹn tại phiên bản trực tuyến.

Đọc toàn bộ bài viết trực tuyến.

Điểm đáng chú ý nhất từ chuyến thăm trụ sở công ty của tôi là Codex – và gần đây là Codex cùng ChatGPT Work – đã chiếm lĩnh mọi thứ tại đây, bắt đầu từ khoảng tháng 1. Trưởng nhóm Desktop, Andrew Ambrosino, đã nói với tôi:

“Chủ đề lớn của những tháng qua là mọi thứ giờ đây đều là một tác tử lập trình (coding agent). Dù mã nguồn hiển thị có phải là kết quả đầu ra của bạn hay không, thì các tác tử vẫn là bên viết nên các sản phẩm của bạn.”

Hãy nghĩ theo cách này: toàn bộ cuộc sống của bạn đều thông qua phần mềm. Bạn có những công cụ mạnh mẽ (tác tử) này trong máy tính, và khả năng tạo vòng lặp, suy luận cũng như viết mã chính là khả năng để thực hiện mọi thứ.

Biểu đồ sử dụng token dưới đây cho thấy sự tăng trưởng đột biến này:

Trong khoảng thời gian bốn tháng, các bộ phận không thuộc kỹ thuật như tài chính, tuyển dụng và pháp lý đã tăng từ mức sử dụng Codex ~0% lên 90%. Hiện nay, gần như tất cả nhân viên OpenAI đều sử dụng Codex và ChatGPT Work hàng tuần. Vậy, chuyện gì đã xảy ra?

OpenAI đã phát hành ứng dụng Codex cho Mac vào tháng 2 và cho Windows vào tháng 3, cùng với ChatGPT Work (được vận hành bởi harness của Codex) vào tháng 7. Sau đó, các nhân viên không thuộc bộ phận kỹ thuật đã chuyển toàn bộ quy trình làm việc của họ sang Codex và sau đó là Work. Lưu ý: Phiên bản Codex nội bộ của OpenAI tiên tiến hơn nhiều so với phiên bản bên ngoài vì nó được kết nối với hầu hết mọi hệ thống của OpenAI – tương tự như cách tác tử Inspect AI của Ramp đã được kết nối.

Điều thú vị là OpenAI đã đạt được gần 40% tỷ lệ áp dụng trong các nhóm không thuộc kỹ thuật vào thời điểm ứng dụng Codex còn khá "khó gần" đối với người dùng không chuyên (khó sử dụng). Từ tháng 2 đến tháng 4, ứng dụng Codex vẫn hiển thị mã nguồn trên màn hình, nhưng dù vậy, các đồng nghiệp không chuyên về kỹ thuật vẫn sử dụng nó vì nó có thể thực hiện các công việc phức tạp như nghiên cứu và tạo bài thuyết trình, tài liệu, bảng tính hoặc các tác vụ tạo ra kết quả phong phú. Ngày nay, những người đó đã trở thành những người dùng rất tích cực.

Khả năng làm việc lâu hơn trên các tác vụ phức tạp hơn đã thúc đẩy việc áp dụng. OpenAI đã thêm tính năng thiết lập mục tiêu (/goal) vào Codex, nơi bạn có thể đặt mục tiêu cho tác tử và nó sẽ tiếp tục làm việc cho đến khi hoàn thành. Từ tháng 4 đến tháng 5, tỷ lệ sử dụng đã tăng từ 60% lên 90%. Andrew tin rằng việc cải thiện khả năng xử lý các tác vụ chạy dài của harness là một trong những nguyên nhân:

“Điều quan trọng nhất đang thay đổi là mọi người bắt đầu sử dụng các luồng (thread) trong thời gian dài hơn nhiều, và việc sử dụng kéo dài này là một bước đột phá. Thật ngạc nhiên khi thấy khoảng thời gian mà mọi người dành cho một luồng – thậm chí là nhiều ngày! Họ thường đặt mục tiêu và sau đó để mô hình tự chạy.”

Việc Codex xử lý tốt các tác vụ chạy dài dường như khiến mọi người thực hiện ít việc song song hơn. Điều này là do một tác tử chạy dài thường sẽ tự phân tách ra các tác tử khác để thực hiện các việc khác, giúp giảm bớt phạm vi công việc mà bạn, với tư cách là con người, phải quản lý.

"Sự dư thừa nhận thức" (awareness overhang) là một nguyên nhân khác dẫn đến việc áp dụng nhanh chóng, theo nhóm Codex. Như Akshay Nathan, Trưởng nhóm Kỹ thuật, bộ phận Năng suất, đã nói với tôi:

“Trong một thời gian dài, chúng tôi đã có một 'sự dư thừa năng lực': các mô hình rất có năng lực nhưng các sản phẩm lại chưa khai thác hết điều đó. Bây giờ, chúng tôi đang thấy một khoảng cách về nhận thức. Một số người đã nhận ra họ có thể sử dụng Codex để theo dõi Slack, cập nhật Airtable hoặc tạo tài liệu giới thiệu nhân viên mới. Nhưng nhiều người khác vẫn chỉ sử dụng nó cho một tác vụ rồi mới khám phá thêm các công dụng khác từ đồng nghiệp thông qua truyền miệng.”

Nhưng vẫn còn rất nhiều điều, ẩn sâu bên dưới, mà bạn có thể làm với Codex.

Các plugin dành riêng cho vai trò và nhóm được tạo và phân phối. Một điều khác thúc đẩy việc áp dụng là mỗi nhóm bắt đầu phân phối các quy trình làm việc hữu ích dành riêng cho vai trò của họ dưới dạng plugin. Andrew giải thích lý do tại sao việc không chỉ cung cấp một tác tử lập trình chung chung là rất quan trọng:

“Nếu bạn xây dựng một sản phẩm có thể làm mọi thứ, các nhóm cần một cách để biến nó thành của riêng họ. Bạn không thể chỉ đưa cho mọi người một chiếc hộp trống rỗng. Các kỹ năng và plugin cho phép các nhóm điều chỉnh tác tử phù hợp với công việc của họ. Đôi khi, chúng tôi cũng cần một khả năng ứng dụng mới, như trình duyệt mà tác tử có thể sử dụng cùng với các kỹ năng đó. Nhưng các khối xây dựng tương tự đã bao phủ rất nhiều vai trò khác nhau rồi.”

Các chuyên gia trong lĩnh vực (SME) được đưa vào các nhóm kỹ thuật ChatGPT Work. Các mô hình đã trở nên "thông minh" hơn các nhà phát triển trong một số lĩnh vực, vì vậy các lập trình viên không thể truyền tải "gu thẩm mỹ" vào harness trong các lĩnh vực đó. Do đó, những người là chuyên gia trong lĩnh vực được đưa vào các nhóm kỹ thuật. Đây là một kết quả của việc ChatGPT Work được sử dụng bởi quá nhiều lĩnh vực không thuộc kỹ thuật: các chuyên gia làm việc cùng với kỹ thuật sẽ tư vấn cho các nhà phát triển về những thứ như một bộ slide, bảng tính hoặc báo cáo kinh doanh như thế nào là tốt.

Tất nhiên, việc các chuyên gia lĩnh vực nằm trong các nhóm kỹ thuật là một thực tiễn tốt nhất đã có từ hàng thập kỷ nay để xây dựng các sản phẩm chất lượng. Có vẻ như điều này cứ vài năm lại được khám phá lại trong các bối cảnh khác nhau!

OpenAI hoàn toàn phụ thuộc vào Codex và Work. Điều này thể hiện rõ đến mức trong trường hợp xảy ra sự cố dù là nhỏ nhất, các tin nhắn nội bộ từ đồng nghiệp sẽ cảnh báo cho nhóm Codex và Work cùng lúc – hoặc thậm chí trước cả – các cảnh báo tự động.

Về cơ bản, công việc diễn ra thông qua Codex và Work, và hầu như không có gì khác. Từ bên ngoài, sự phụ thuộc vào một harness chung duy nhất này đặc biệt đáng chú ý; hai năm trước, không hề có các tác tử AI, chỉ có tính năng tự động hoàn thiện AI nâng cao!

Cuối năm ngoái, nhóm Codex đã rất phân vân về việc có nên phát hành ứng dụng máy tính để bàn Codex hay không. Andrew nhớ lại sự do dự đó:

“Vào tháng 12 năm 2025, chúng tôi không hoàn toàn chắc chắn liệu mình có phát hành ứng dụng Codex hay không. Chúng tôi đã có Codex CLI dưới dạng terminal, và ngoài kia có rất nhiều IDE lớn, giàu tính năng. Vậy, liệu có chỗ cho một công cụ phát triển nằm giữa terminal và IDE không? Trong đầu tôi, đã có một tương lai nơi nó không thành công, và trở thành kiểu 'kẻ lạc loài' giống như iPad vậy.”

Rất nhiều người mua iPad rồi không bao giờ sử dụng chúng: họ hoặc là dùng điện thoại thông minh nhỏ gọn, di động hơn (có thể tương đương với CLI trong phép ẩn dụ này), hoặc là dùng máy tính xách tay giàu tính năng (tương đương với IDE).

Ngoài ra, đừng quên rằng vào tháng 11, Antigravity đã ra mắt như một bản fork của VS Code. Điều này làm tăng thêm cảm giác rằng có lẽ chúng tôi cũng nên fork VS Code cho ứng dụng Codex. Nhưng dù vậy, chúng tôi đã gạt bỏ sự cám dỗ đó và đi theo linh cảm rằng khi các tác tử AI trở nên tốt hơn, IDE sẽ ít quan trọng hơn.”

Quả thực, kể từ tháng 1, việc sử dụng IDE đã giảm xuống và canh bạc của OpenAI có vẻ là một canh bạc đúng đắn. Tuy nhiên, ứng dụng Codex đang trở nên giống một IDE hơn một chút: ví dụ, khả năng chỉnh sửa tệp bên trong ứng dụng đã được ra mắt vào tháng 6.