Kỹ năng '/wayfinder': Bí quyết định hướng trong 'sương mù' của các dự án phần mềm

Chúng tôi hiện đang phát triển một loạt bài mới về các kỹ năng, với mục tiêu cung cấp cho bạn nguồn kỹ năng mới thường xuyên để áp dụng vào các dự án của mình. Chúng tôi khởi động loạt bài này bằng một cuộc phỏng vấn — và một kỹ năng cực kỳ hữu ích — với Matt Pocock, người có dự án “AI Skills for Real Engineers” đã đạt hơn 220.000 sao trên GitHub. Anh ấy cũng chia sẻ về những kỹ năng này với 347.000 người đăng ký trên kênh YouTube của mình.

Pocock gần đây đã ra mắt một kỹ năng mới có tên là /wayfinder. Mục đích của nó là giúp bạn và tác nhân (agent) của mình định hình một dự án mà ở đó trạng thái kết thúc chưa hoàn toàn rõ ràng. Hay như cách Pocock diễn đạt trong cuộc phỏng vấn của chúng tôi, /wayfinder giúp bạn điều hướng qua “sương mù chiến tranh” (fog of war), nơi bạn có một dự án nhưng “không thể quyết định mọi thứ ngay từ đầu”.

Cuộc phỏng vấn dưới đây đã được rút gọn đôi chút để dễ đọc hơn, giúp bạn có thể nắm bắt những hiểu biết sâu sắc của Matt và sau đó tự mình trải nghiệm /wayfinder!

Latent Space: Mục tiêu của wayfinder là gì?

Pocock: Điều tôi nhận thấy là tôi đã làm việc rất nhiều với các tác nhân AFK [Away From Keyboard - không cần sự can thiệp trực tiếp] và cố gắng lên lịch cho khối lượng công việc khổng lồ để các tác nhân của tôi có thể chạy gần như xuyên đêm. Tôi chỉ cần lập kế hoạch cho một loạt công việc, sau đó tạo ra một bản đặc tả (spec) và chuyển bản đặc tả đó thành các ticket. Tôi đã có một bộ kỹ năng được phát triển rất tốt để biến công việc thành những thứ đã được lên lịch mà các tác nhân có thể bắt tay vào làm ngay.

Nhưng [...] tôi thấy giai đoạn lập kế hoạch thực sự rất nặng nề, vì tôi phải liên tục suy nghĩ về việc quản lý phiên làm việc của mình. Chẳng hạn như, tôi đã sử dụng bao nhiêu token trong cửa sổ ngữ cảnh (context window) rồi? Tôi đang đi sâu đến mức nào?

Tôi không muốn cảm thấy bị gò bó trong giai đoạn lập kế hoạch nữa. Tôi muốn có một lớp điều phối (orchestrator layer) về cơ bản sẽ nói rằng, được thôi, bất cứ thứ gì bạn muốn lập kế hoạch, tôi sẽ xử lý các phiên lập kế hoạch đó cho bạn. Tôi sẽ chia nhỏ nó thành nhiều luồng khác nhau, thực hiện tạo mẫu (prototyping), nghiên cứu và tổng hợp tất cả lại, để bạn không còn cảm thấy bị gò bó trong khâu lập kế hoạch nữa.

Và sau đó, các bản đặc tả của bạn có thể chi tiết hơn nữa, và bạn chỉ cần để một tác nhân AFK thực hiện thêm hàng tấn công việc.

Latent Space: Quá trình thiết kế để tạo ra kỹ năng này diễn ra như thế nào?

Pocock: Tôi có một ý tưởng cốt lõi là: điều gì sẽ xảy ra nếu tôi không phải quản lý các khâu bàn giao? Nó sẽ trông như thế nào? Và sau đó, việc có một loại tài liệu tập trung để chứa tất cả các mảnh ghép đó lại với nhau sẽ ra sao?

Bất cứ khi nào bạn nghĩ về quản lý ngữ cảnh — vì đó thực sự là bản chất của một kỹ năng, bạn đang quản lý ngữ cảnh của tác nhân mà bạn đang làm việc cùng — bạn cần suy nghĩ về luồng thông tin. Vì vậy, điều tôi muốn nghĩ đến là, nếu một phiên "grilling" (phiên chất vấn/đào sâu) có thể quản lý các phiên "grilling" khác thì sao? Nó sẽ trông như thế nào?

Chà, bước đầu tiên cho việc đó là: phiên "grilling" đang được quản lý cần những gì? "Đứa con" (child) cần gì trong tình huống đó? Có lẽ nó cần hiểu một cái nhìn tổng quan mơ hồ về những gì đang diễn ra và cần nhiệm vụ cụ thể của riêng nó.

Vậy là bạn có hai tài liệu. Bạn có một bản đồ (map) — bao gồm tất cả những thứ còn lại, tất cả các quyết định đã được đưa ra. Và sau đó bạn có ticket cụ thể đi vào phiên làm việc thực tế. Và điều bạn nhận thấy ở đó là các từ ngữ này rất chính xác.

Bạn có bản đồ, có ticket và có phiên làm việc. Và một khi đã có ý tưởng cốt lõi, bạn cần tìm ra các từ ngữ cho ý tưởng đó. Bởi vì một khi đã xác định được từ ngữ, các thực thể đó có thể được tác nhân lập bản đồ một cách thực sự rõ ràng.

Bởi vì nếu bạn gọi mọi thứ là ticket, hoặc nếu bạn đề cập đến nó theo những cách khác nhau ở những nơi khác nhau, thì nó sẽ rất dễ gây nhầm lẫn và bạn sẽ nhận được những hành vi kỳ lạ. Trong khi nếu bạn sử dụng những từ rất cụ thể, cái mà tôi gọi là "từ dẫn dắt" (leading words), để hướng dẫn tác nhân hiểu chính xác từng phần là gì, và bạn đã hiểu luồng thông tin là gì, thì bạn đã có kỹ năng của mình.

Latent Space: Bạn nghĩ wayfinder sẽ hữu ích cho những trường hợp sử dụng nào?

Pocock: Chà, tôi đã sử dụng nó cho đủ loại công việc. Tôi thậm chí đã sử dụng nó để lập kế hoạch cho các khóa học. Trong wayfinder, có nhiều loại ticket khác nhau.

Bạn có các ticket "grilling", chỉ đơn giản là một phiên "grilling". Sau đó, bạn có các ticket tạo mẫu (prototype tickets) để tạo nguyên mẫu, ticket nghiên cứu (research tickets) để tạo [và thực hiện] nghiên cứu, và sau đó là các ticket nhiệm vụ (task tickets) — loại này rất rộng… về cơ bản là bất cứ thứ gì con người cần làm mà tác nhân không thể làm được. Và một khi nghĩ về điều đó, bạn nhận ra rằng, OK, tôi có thể áp dụng nó cho bất cứ thứ gì.

Một ý tưởng thực sự quan trọng trong wayfinder là ‘sương mù chiến tranh’. Đây là khái niệm về việc bạn không thể quyết định mọi thứ ngay từ đầu.

Bạn có thể đưa ra một số quyết định nhất định, và những quyết định đó dẫn dắt bạn và đẩy xa hơn vào màn sương mù chiến tranh — giống như phong cách Warcraft III, khám phá bản đồ vậy. Và một khi có ý tưởng về ‘sương mù chiến tranh’ và ‘bản đồ’, tôi nhận ra hai thuật ngữ đó thực sự kết hợp với nhau rất tốt, và nó thực sự dẫn dắt tác nhân đi đúng hướng. Vì vậy, tôi đã sử dụng nó cho kỹ thuật, cho các công việc phi kỹ thuật, lập kế hoạch khóa học, đủ mọi thứ.

Latent Space: Khái niệm sương mù chiến tranh này — thật kỳ lạ khi xem xét những gì bạn không biết là mình không biết. Có lẽ các LLM rất giỏi trong việc nắm bắt điều đó.

Pocock: Tôi cảm thấy với những thứ liên quan đến "grilling" mà tôi vẫn đang thực hiện, nó nắm bắt được ý tưởng rằng bạn không biết mọi thứ, nhưng có lẽ tác nhân có thể đóng góp điều gì đó và soi sáng một phần căn phòng mà bạn chưa hiểu rõ.

Và wayfinder chỉ là một lớp bổ sung trên nền tảng đó.

Latent Space: Vâng, và có tất cả những tạo tác (artifacts) này. Bạn dành bao nhiêu thời gian để dạy mô hình tất cả các thuật ngữ này?

Pocock: Trong vài tháng qua, tôi khá ám ảnh với thuật ngữ học — và việc tìm ra các thuật ngữ phù hợp cho những thứ nhất định. Tôi đã tổng hợp một thứ, tôi thực sự chưa công bố nó, nhưng đó là một từ điển lập trình AI — về cơ bản là tất cả các thuật ngữ trong lập trình AI. Nó nằm trong một biểu đồ đẹp mắt mà bạn có thể khám phá và hiểu chính xác tác nhân là gì, harness là gì, mô hình là gì, vân vân và mây mây.

Tôi đã làm lại tất cả các khóa học của mình để sử dụng từ điển đó và làm cho nó thực sự vững chắc. Và sau đó tất cả các kỹ năng của tôi cũng sử dụng một từ điển nhất quán. Vì vậy, tất cả chúng đều hoạt động dựa trên [cùng] các giả định, cùng những từ dẫn dắt.

Tôi nhận ra rằng mình cần một ngôn ngữ phổ quát giữa tôi và tác nhân. Giữa tôi và tác nhân có một rào cản giao tiếp. Và đó là điều tôi luôn cố gắng thực hiện với các kỹ năng của mình: cố gắng tìm ra những từ ngữ phù hợp.

Và các tác nhân thực sự rất giỏi trong việc chỉ cho bạn thấy các cơ hội cho những cách diễn đạt khác nhau — thực tế là chúng rất giỏi trong việc mô hình hóa miền (domain modeling).

Latent Space: Khi nào chúng ta sử dụng trực tiếp kỹ năng "grill-me", so với wayfinder?

Pocock: Hãy sử dụng ‘grill me’ trong những trường hợp bạn cảm thấy mình có thể lập kế hoạch cho toàn bộ mọi thứ trong một phiên duy nhất và bạn cần thống nhất trước khi bắt đầu. Hầu hết các tính năng nhỏ sẽ phù hợp với điều này. Với hầu hết những thứ mà bạn có thể nhìn thấy con đường phía trước, nhưng chỉ muốn đảm bảo tác nhân cũng hiểu rõ, ‘grill me’ sẽ hoạt động hiệu quả.

Đối với những thứ mà bạn không biết con đường phía trước, đối với những thứ mà bạn có thể cảm nhận được sương mù chiến tranh trước mắt, hãy sử dụng wayfinder. Bạn sẽ tìm thấy con đường của mình với wayfinder. Đó là cách nó hoạt động.