Included Health ứng dụng LangGraph và Deep Agents xây dựng hệ thống tác nhân AI y tế

Included Health là một nền tảng chăm sóc sức khỏe tất cả trong một, hợp tác với các nhà tuyển dụng và chương trình bảo hiểm y tế để cung cấp cho nhân viên và thành viên của họ dịch vụ điều hướng chăm sóc sức khỏe, bao gồm chăm sóc ban đầu ảo, sức khỏe hành vi, chăm sóc khẩn cấp, chăm sóc chuyên khoa và nhiều dịch vụ khác. Trải nghiệm sản phẩm tập trung vào việc giải đáp các câu hỏi về y tế, tài chính hoặc hành chính thông qua Dot—một hướng dẫn viên chăm sóc sức khỏe hỗ trợ bởi AI, được xây dựng trên kiến trúc đa tác nhân liên kết (federated multi-agent architecture) sử dụng Deep Agents và LangGraph.

Thách thức: điều hướng chăm sóc sức khỏe không phù hợp với cây quyết định (decision tree)

Chăm sóc sức khỏe là một trong số ít lĩnh vực mà những gì một người yêu cầu và những gì họ thực sự cần có thể hoàn toàn khác biệt. Một thành viên hỏi "liệu quét mảng bám động mạch có được bảo hiểm chi trả không?" có thể, sau vài câu hỏi làm rõ, sẽ tiết lộ rằng họ đang kiểm soát mức cholesterol cao và có tiền sử gia đình mắc bệnh tim. Phản hồi đúng không chỉ bao gồm con số cụ thể về chi phí—mà còn có thể là nhận ra cơ hội để khuyến khích họ trao đổi với bác sĩ chăm sóc ban đầu.

Trước đây, các hệ thống y tế xử lý việc điều hướng này bằng các cây điều hướng có cấu trúc. Cách tiếp cận đó giúp phần mềm quản lý được các nhu cầu phức tạp, nhưng chỉ bằng cách đơn giản hóa chúng thành một loạt các quyết định được xác định trước. Như Kartik Darapuneni, Quản lý Kỹ thuật, đã mô tả: “Đối với thành viên, điều đó cảm thấy rất cứng nhắc và không phải là một trải nghiệm tốt.” Những hạn chế này trở nên nghiêm trọng hơn khi một cuộc trò chuyện bắt đầu bằng câu “Tôi đang bị đau ngực.” Hệ thống cần nhận ra tình trạng khẩn cấp tiềm ẩn ngay từ lượt đầu tiên, thay vì sau bảy câu hỏi làm rõ.

Đây là sự đánh đổi rộng lớn hơn đã định hình phần mềm trong nhiều thập kỷ. Để mở rộng quy mô, công nghệ thường phải tiêu chuẩn hóa các tình huống phức tạp của con người dựa trên các trường hợp trung bình. Trong chăm sóc sức khỏe, nơi bối cảnh thường là sự khác biệt giữa một câu trả lời chỉ đơn thuần là đúng và một câu trả lời thực sự hữu ích, sự đánh đổi đó đặc biệt đắt giá.

Các mô hình ngôn ngữ lớn (LLM), kết hợp với hệ thống tác nhân (agent harness), đã thay đổi những gì có thể thực hiện được. Chúng có thể xử lý các hồ sơ sức khỏe cá nhân dày đặc, suy luận về các nhu cầu mơ hồ và đặt câu hỏi làm rõ mà không buộc các thành viên phải đi theo những con đường định sẵn. “LLM đã giải quyết cả ba rào cản đó cùng một lúc,” Kartik cho biết. Các cuộc trò chuyện không chỉ trở nên tự nhiên hơn mà phần mềm cũng không còn phải lựa chọn giữa cá nhân hóa và quy mô. Included Health đã xây dựng một trải nghiệm chăm sóc sức khỏe thích ứng với bối cảnh của từng thành viên, phản hồi với sự khẩn cấp, hướng dẫn và các bước tiếp theo mà tình huống của họ yêu cầu.

Kiến trúc tác nhân: một siêu đồ thị liên kết (federated supergraph) với Deep Agents

Kiến trúc sản xuất của Included Health tập trung vào một đồ thị LangGraph chính mà họ gọi là siêu đồ thị Dot. Trong đó, Dot đóng vai trò là bộ định tuyến hội thoại chính cho các tương tác giao dịch (ví dụ: xử lý các câu hỏi về bảo hiểm, thắc mắc về thanh toán) và điều hướng đến đúng điểm chăm sóc. Một tập hợp các quy trình con xử lý các hành trình của thành viên theo từng lĩnh vực cụ thể, bao gồm tiếp nhận chăm sóc khẩn cấp, đặt lịch hẹn, tìm bác sĩ chuyên khoa, sức khỏe hành vi và nhiều dịch vụ khác.

Các nhóm sản phẩm khác nhau tại Included Health sở hữu các phần khác nhau của đồ thị này. Ví dụ, chỉ riêng việc đặt lịch hẹn đã phải tính đến các yếu tố như thành viên đủ điều kiện cho dịch vụ nào, chi tiết bảo hiểm của họ, họ là thành viên chính hay người phụ thuộc, và một loạt các sắc thái lâm sàng khác.

Included Health đã thêm Deep Agents để đảm bảo tính nhất quán trên các dịch vụ đó. "Ban đầu, bạn sẽ chuyển sang một tác nhân khác và đột nhiên nó trở nên ngắn gọn và cộc lốc hơn nhiều. Nó không có cùng giọng điệu," Rohan Bhandari, Kỹ sư Học máy cấp cao, cho biết. Với Deep Agents, nhóm đã tạo ra một lời nhắc nền tảng (platform prompt) chung cho giọng điệu, có thể được truyền qua tất cả các tác nhân mà không cần mỗi nhóm phải quản lý độc lập. Khi định tuyến từ quy trình này sang quy trình khác, hệ thống tệp và quản lý bối cảnh tích hợp của Deep Agent cho phép tác nhân gửi tóm tắt cuộc trò chuyện và chuyển cả bản tóm tắt đó cùng đường dẫn tệp đến lịch sử cuộc trò chuyện đầy đủ cho tác nhân nhận. Thiết lập này đảm bảo các thành viên không bao giờ phải lặp lại thông tin của mình giữa các tác nhân khác nhau do các nhóm khác nhau sở hữu.

Ví dụ, kỹ năng hỏi về bảo hiểm được chia sẻ: các câu hỏi về bảo hiểm không nhất thiết phải xuất hiện ngay từ đầu cuộc trò chuyện. Một thành viên có thể đang trong quá trình tìm bác sĩ chuyên khoa và muốn biết chi phí là bao nhiêu. Trước khi có Deep Agents, việc xử lý yêu cầu này đòi hỏi phải lồng ghép khả năng kiểm tra bảo hiểm vào logic định tuyến của mọi quy trình con. Hiện tại, "chúng tôi đã phân tách nó thành một tác nhân con nền tảng mà tất cả các Deep Agents đều có thể kế thừa. Điều đó có nghĩa là mọi tác nhân đều có thể trả lời các câu hỏi về bảo hiểm," Rohan nói.

LangGraph cho phép soạn thảo nhất quán và phát triển phân tán để mỗi nhóm sản phẩm có thể xây dựng và sở hữu dịch vụ của riêng họ một cách độc lập. Deep Agents bổ sung hệ thống tệp chia sẻ giúp giữ cho giọng điệu và hành vi nhất quán khi các cuộc trò chuyện của khách hàng di chuyển giữa các dịch vụ đó.

Kỹ năng như một sổ đăng ký khả năng (capability registry)

Included Health cung cấp cho các tác nhân các khả năng và dịch vụ lâm sàng bằng cách sử dụng các kỹ năng của Deep Agent. Mỗi kỹ năng mô tả dịch vụ đó là gì, khi nào thì phù hợp, khi nào không và cách xử lý các trường hợp ngoại lệ. Ví dụ, phải làm gì khi một người phụ thuộc muốn đặt dịch vụ có các sắc thái về điều kiện hưởng.

Mô hình sử dụng phương pháp tiết lộ lũy tiến (progressive disclosure) như một cách để thúc đẩy cuộc trò chuyện đúng hướng nhằm điều hướng thành viên. Ví dụ, nếu một thành viên nói họ muốn gặp bác sĩ, có thể có 3 cách trở lên để hỗ trợ (ví dụ: chăm sóc khẩn cấp ảo, chăm sóc ban đầu ảo, tìm bác sĩ trực tiếp). Tác nhân có một sổ đăng ký kỹ năng được quản lý thông qua hệ thống tệp ảo và ngay từ đầu, nó nhận được mô tả ngắn gọn về từng kỹ năng. Khi được gọi, mô hình quyết định kỹ năng nào phù hợp và sau đó có thể tải các tệp kỹ năng đầy đủ. Với các tệp kỹ năng đó, nó tìm hiểu về các sắc thái và những câu hỏi cần đặt ra để điều hướng thành viên tốt nhất (ví dụ: họ muốn khám ảo hay trực tiếp? Vấn đề họ đang mô tả là cấp tính hay nên được quản lý thông qua mối quan hệ lâu dài với nhà cung cấp dịch vụ?).

Included Health hỗ trợ các phúc lợi của nhà tuyển dụng bên thứ ba bên cạnh các dịch vụ của riêng mình và đang nỗ lực mã hóa chúng thành các kỹ năng, để bao gồm từ 20 đến 30 phúc lợi cho mỗi chương trình của nhà tuyển dụng.

"Chúng tôi có một đội ngũ lâm sàng xem xét các cuộc trò chuyện và xác nhận xem họ có đồng ý với điểm chăm sóc mà chúng tôi đã gửi thành viên đến hay không, dựa trên vấn đề của họ," Rohan nói thêm. Vòng lặp phản hồi đó đã cho phép Included Health điều chỉnh các định nghĩa kỹ năng theo thời gian và duy trì mức độ đồng thuận về điều hướng lâm sàng mục tiêu trên 95%.

Biến việc chuyển giao cho con người thành một ràng buộc thiết kế cốt lõi, không phải là trường hợp ngoại lệ

Một khía cạnh đặc biệt của hệ thống tác nhân tại Included Health là cách họ kết hợp con người vào quy trình (human-in-the-loop) để cải thiện trải nghiệm cho bệnh nhân. "Chúng tôi coi LangGraph là toàn bộ nền tảng nhắn tin của mình," Kartik nói. Khả năng thực thi bền vững (durable execution) của LangGraph cho phép tác nhân duy trì bối cảnh đầy đủ trong suốt cuộc trò chuyện, hỗ trợ việc tạm dừng vô thời hạn và lưu giữ bối cảnh. Khi tác nhân đạt đến điểm không chắc chắn, nó sẽ tạm dừng đồ thị, định tuyến đến một nhân viên hỗ trợ chăm sóc thành viên là con người để trao đổi nhiều lượt, sau đó tiếp tục—với việc tác nhân nắm giữ toàn bộ bối cảnh về những gì con người đã làm và nói.

Thiết kế này phản ánh bản chất lâu dài của các mối quan hệ chăm sóc sức khỏe. Một thành viên có thể quay lại cùng một luồng trò chuyện sau nhiều ngày hoặc nhiều tuần với một câu hỏi tiếp theo, và tác nhân có thể tiếp tục từ nơi họ đã dừng lại, bao gồm cả bối cảnh đầy đủ của bất kỳ phần nào có sự hỗ trợ của con người. "Từ góc độ con người, họ đang giúp tác nhân vượt qua bế tắc, thay vì phải làm tất cả công việc," Kartik cho biết.

Kiến trúc này cũng để lại không gian cho sự phát triển tiếp theo: chạy một luồng tác nhân song song trong khi con người đang xử lý cuộc trò chuyện, để tác nhân có thể thực hiện nghiên cứu nền và đưa ra các đề xuất cho nhân viên hỗ trợ chăm sóc trong thời gian thực.

Khả năng quan sát và cải tiến liên tục với LangSmith

Các hàng đợi chú thích (annotation queues) của LangSmith là trung tâm trong cách Included Health thực hiện giám sát lâm sàng. Hiện tại, mọi cuộc trò chuyện đều đi vào hàng đợi để đội ngũ lâm sàng xem xét. Những người đánh giá sẽ đánh giá xem đề xuất điều hướng của tác nhân có chính xác hay không, liệu các rào cản an toàn khẩn cấp có kích hoạt phù hợp hay không (hoặc không kích hoạt một cách chính xác), và gắn cờ bất kỳ điều gì cần theo dõi. Các nhãn đó được xuất từ LangSmith vào kho dữ liệu của Included Health, nơi nhóm khoa học dữ liệu xây dựng các bảng điều khiển chỉ số vận hành.

Các đánh giá mô phỏng người dùng nhiều lượt (multi-turn user simulation evals) sử dụng gói mô phỏng người dùng của LangChain đã trở thành mạng lưới an toàn cho các thay đổi về kiến trúc. Việc chuyển đổi từ các tác nhân tiêu chuẩn sang Deep Agents trên toàn bộ siêu đồ thị đã ảnh hưởng đến bốn nhóm sản phẩm, tất cả đều thận trọng với các thay đổi gây lỗi. "Chúng tôi đã có thể chạy toàn bộ bộ đánh giá của mình, thấy rằng nhìn chung chúng tôi đạt hiệu suất tốt hơn, và sau đó chúng tôi tự tin chia sẻ điều đó với các nhóm khác," Rohan nói. Nhờ các đánh giá này, quá trình chuyển đổi đã diễn ra trong vòng chưa đầy 2 tuần, không có sự suy giảm đáng kể nào và không có sự phản kháng từ các nhóm.

Kết quả

Dot đã ra mắt khách hàng vào tháng 8, trong điều mà Rohan mô tả là “lần ra mắt suôn sẻ nhất mà nhóm từng thấy trong vài năm qua.” Các chỉ số ban đầu đang đi đúng hướng trên ba lĩnh vực:

Bạn quan tâm đến việc xây dựng các hệ thống tác nhân cấp sản xuất với Deep Agents? Tìm hiểu thêm về Deep Agents.