Quy mô hóa AI Agent trong Y tế và Khoa học sự sống: Bài học từ Madrigal, Abridge và Vizient

Các chương trình tác nhân (agent) trong lĩnh vực chăm sóc sức khỏe và khoa học đời sống đang được xây dựng dưới những ràng buộc khác biệt so với hầu hết các ngành công nghiệp khác. Nếu giải quyết được những ràng buộc này, lợi ích mang lại sẽ rất lớn. Thành công có thể đồng nghĩa với việc rút ngắn hàng giờ đánh giá thủ công xuống còn vài phút, dữ liệu vốn nằm rải rác ở hàng chục hệ thống nay có thể truy vấn tập trung tại một nơi, và các bác sĩ lâm sàng có thêm thời gian nhờ giảm bớt công việc giấy tờ. Đồng thời, cái giá phải trả cho một câu trả lời sai trong lĩnh vực này cao hơn bất kỳ đâu, điều này làm thay đổi cách thức các đội ngũ xây dựng sản phẩm.

Trên khắp các đơn vị chi trả (payers), nhà cung cấp dịch vụ y tế (providers) và công ty dược phẩm sinh học (biopharma), chúng tôi nhận thấy rằng việc đạt được mức độ tin cậy cần thiết để mở rộng quy mô các tác nhân là khó khăn hơn nhiều. Trong ngành này, sự tin cậy không chỉ dừng lại ở chất lượng sản phẩm mà còn là yêu cầu kiểm toán, nghĩa vụ tuân thủ và trong một số trường hợp là yêu cầu về an toàn bệnh nhân. Để đạt được tiêu chuẩn đó đòi hỏi một lớp hạ tầng mà nhiều đội ngũ có thể đã không tích hợp ngay từ các dự án thí điểm đầu tiên.

Bài viết này xem xét cách ba tổ chức đang xây dựng các tác nhân của họ:

Bên cạnh ba tổ chức này, chúng tôi sẽ rút ra các mô hình đang nổi lên trên một loạt các chương trình tác nhân rộng hơn trong lĩnh vực chăm sóc sức khỏe và khoa học đời sống.

Các mô hình đang nổi lên trong các chương trình tác nhân lĩnh vực chăm sóc sức khỏe và khoa học đời sống

Khả năng quan sát (observability), đánh giá (evals) và kiểm soát chi phí đang trở thành điều kiện tiên quyết để tăng cường tính tự chủ của tác nhân. Đây là chủ đề phổ biến nhất mà chúng tôi ghi nhận được. 76% các tổ chức chăm sóc sức khỏe và khoa học đời sống mà chúng tôi trao đổi đều coi việc truy vết (tracing), đánh giá và hiển thị chi phí là những yêu cầu bắt buộc trước khi trao thêm quyền tự chủ cho các tác nhân. Trong các môi trường được quản lý chặt chẽ, nhu cầu này không chỉ dừng lại ở việc gỡ lỗi mà còn là bằng chứng. Các đội ngũ cần một hồ sơ lưu trữ bền vững về những gì tác nhân đã thực hiện, ai đã kiểm duyệt và chất lượng được đo lường như thế nào, vì đó là hồ sơ mà bộ phận tuân thủ cuối cùng sẽ yêu cầu.

Đối với các chương trình bảo hiểm y tế và nhà cung cấp dịch vụ, 43% các tổ chức mà chúng tôi trao đổi đang tập trung vào việc xử lý PHI (thông tin sức khỏe cá nhân), khử định danh và các yêu cầu HIPAA. Một số đội ngũ cũng đang đặt một cổng LLM (LLM gateway) phía trước các mô hình của họ để có cái nhìn thống nhất về chi phí trên toàn bộ người dùng và mô hình trước khi mở rộng thêm quyền tự chủ của tác nhân.

Các nền tảng tác nhân tập trung đang hợp nhất các tác nhân phân mảnh trên toàn doanh nghiệp. 49% các tổ chức mà chúng tôi trao đổi đang thực hiện xây dựng một nền tảng tác nhân, mặt phẳng điều khiển (control plane) hoặc "nhà máy tác nhân" (agent factory) trên toàn công ty như là trường hợp sử dụng chính, với các tác nhân của từng đơn vị kinh doanh chạy trên nền tảng đó. Chúng tôi thấy mô hình này xuất hiện trong các công ty dược phẩm, đơn vị chi trả và hệ thống y tế. Hàng chục đội ngũ cùng xây dựng tác nhân riêng, mỗi đội ngũ lại tái tạo cùng một nền tảng cơ sở, và cuối cùng một đội ngũ sẽ được yêu cầu quản lý lớp hạ tầng dùng chung đó.

Lớp hạ tầng dùng chung có thể ở dạng thư viện mẫu có thể tái sử dụng, danh mục tác nhân nội bộ hoặc một lộ trình được quản lý duy nhất từ nguyên mẫu đến sản xuất. Một công ty dược phẩm thuộc top 5 đang hợp nhất hàng trăm ứng dụng vào một nền tảng có khả năng tương tác duy nhất. Một đơn vị chi trả mà chúng tôi trao đổi gần đây đã chuyển từ một tác nhân sản xuất duy nhất sang việc lập kế hoạch cho khoảng một trăm tác nhân khác trên một nền tảng thống nhất. Đối với nhiều tổ chức, hàng trăm bằng chứng khái niệm (POC) mà không có lộ trình rõ ràng để đưa vào sản xuất thường là điểm khởi đầu.

Công việc văn phòng và tài liệu được quản lý chặt chẽ đang cho thấy ROI (tỷ suất hoàn vốn) rõ ràng nhất. 33% các tổ chức mà chúng tôi trao đổi đang xây dựng các tác nhân cho các quy trình công việc vốn đã có dấu vết giấy tờ và chi phí cố định cho mỗi trường hợp. Các quy trình này bao gồm:

Những trường hợp sử dụng này mang lại chỉ số đo lường trước-sau rõ ràng, và một số tác nhân đã được đưa vào vận hành thực tế. Công việc vốn có thể tiêu tốn của một người viết tài liệu y khoa hoặc đội ngũ xử lý hàng giờ đồng hồ nay có thể được đo lường bằng phút, trong khi chính tiến độ nộp hồ sơ trở thành các chỉ số mà ban lãnh đạo có thể theo dõi.

Các tác nhân hội thoại phục vụ bệnh nhân và thành viên đang chuyển từ thí điểm sang sản xuất, bao gồm cả giọng nói. 26% các tổ chức mà chúng tôi trao đổi đang vận hành hoặc xây dựng các tác nhân hướng ngoại trong việc điều hướng thành viên, tiếp nhận và phân loại bệnh nhân qua SMS và WhatsApp, trợ lý thiết bị tiêu dùng và giảm tải cho trung tâm liên lạc. Giọng nói đã trở thành một phần quan trọng trong các chương trình này, với các đội ngũ thực hiện truy vết và chấm điểm các tương tác âm thanh về cảm xúc, đề cập đến biến cố bất lợi và lộ thông tin PII (thông tin nhận dạng cá nhân). Đánh giá an toàn được kết nối chặt chẽ với trường hợp sử dụng này. Ví dụ, các nhà cung cấp dịch vụ sức khỏe tâm thần đang kiểm tra kỹ lưỡng các cuộc hội thoại đi chệch hướng và phát hiện ý định tự tử trước khi mở rộng triển khai.

Các sáng kiến xây dựng liên kết (federated building) thường xuất hiện khi kỹ thuật tập trung trở thành nút thắt cổ chai. 26% các tổ chức đang cố gắng cho phép những người không chuyên về kỹ thuật xây dựng tác nhân trong khuôn khổ các rào chắn (guardrails) tập trung. Chúng tôi thấy các đội ngũ kinh doanh cấu hình và xác thực tác nhân dựa trên các nguồn nội bộ như SharePoint, tóm tắt EHR (hồ sơ sức khỏe điện tử) hoặc Snowflake, trong khi một đội ngũ trung tâm sẽ công nghiệp hóa những tác nhân chứng minh được giá trị.

Chúng tôi cũng bắt đầu thấy các chuyên gia về lĩnh vực (subject-matter experts) trực tiếp quản lý các câu lệnh (prompts) và tập dữ liệu đánh giá. Các bác sĩ lâm sàng và dược sĩ có thể chỉnh sửa câu lệnh và kích hoạt các đánh giá trong quá trình phát triển, với đội ngũ kỹ thuật sẽ thúc đẩy các phiên bản đạt yêu cầu.

Các tác nhân trong R&D khoa học có thời gian vận hành dài hơn. Các tổ chức R&D khoa học đang tạo ra các tác nhân phục vụ khám phá và khoa học phòng thí nghiệm, bao gồm khám phá mục tiêu, thiết kế dựa trên cấu trúc, phân tích nhiễu loạn tế bào đơn và omics, truy xuất tài liệu và đồ thị tri thức, cũng như điều khiển thiết bị phòng thí nghiệm.

Đây cũng là những tác nhân có thời gian vận hành lâu nhất và ít tính tất định nhất trong ngành. Kết quả là, các đội ngũ này đặt ra yêu cầu đặc biệt cao đối với việc đánh giá toàn bộ quỹ đạo mà một tác nhân thực hiện, thay vì chỉ đánh giá câu trả lời cuối cùng.

Các trường hợp sử dụng hỗ trợ bác sĩ lâm sàng và đội ngũ chăm sóc rất phổ biến ở các nhà cung cấp dịch vụ và đơn vị chi trả. Nhiều tổ chức đang xây dựng các tác nhân làm việc cùng với bác sĩ lâm sàng hoặc quản lý chăm sóc, bao gồm chuẩn bị trước khi thăm khám, điều phối hướng dẫn chăm sóc, chuẩn bị biểu đồ và quản lý giới thiệu. Yếu tố con người trong vòng lặp (human-in-the-loop) thường được giả định cho các quy trình này. Những rào cản lớn hơn thường là tích hợp EHR và nghĩa vụ kiểm toán.

Ba tổ chức dưới đây cho thấy những gì cần thiết để vận hành các tác nhân sau khi một công ty đã vượt qua giai đoạn thí điểm đầu tiên.

Ba đội ngũ đang xây dựng các tác nhân trong môi trường sản xuất

Madrigal Pharmaceuticals: Một nền tảng với nhiều kỹ năng

Madrigal Pharmaceuticals là một công ty dược phẩm sinh học tập trung vào bệnh viêm gan nhiễm mỡ liên quan đến rối loạn chuyển hóa (MASH), một dạng nghiêm trọng của bệnh gan nhiễm mỡ. Nền tảng tác nhân doanh nghiệp của họ phát triển từ thách thức trong việc tích hợp, tìm kiếm và tổng hợp thông tin nằm rải rác trên các hệ thống có cấu trúc, tài liệu phi cấu trúc, nguồn bên ngoài và API thời gian thực.

Ràng buộc lớn đầu tiên là mỗi nguồn dữ liệu hoạt động khác nhau, với các định dạng, mô hình truy cập và kỳ vọng khác nhau. Madrigal đã chuẩn hóa các nguồn đó vào cùng một kho dữ liệu bảo mật và hiển thị chúng thông qua một giao diện công cụ nhất quán. Từ góc độ của tác nhân, tất cả thông tin đều có sẵn thông qua cùng một lớp trừu tượng, cho phép hệ thống thêm các miền mới mà không cần phải viết lại logic điều phối mỗi lần.

Lớp trừu tượng này đã giúp đội ngũ biến một quy trình làm việc thành một nền tảng rộng lớn hơn. Một bộ điều phối được xây dựng với Deep Agents harness của LangChain nhận nhiệm vụ và xác định những khả năng nào cần thiết, tác nhân nào nên chạy và công việc nào có thể diễn ra song song trước khi các kết quả được đối chiếu. Vai trò của nó là định tuyến vấn đề qua các khả năng chuyên biệt thay vì mã hóa chi tiết của từng miền.

Các trường hợp sử dụng mới được thêm vào dưới dạng các kỹ năng mô-đun xác định cách tiếp cận một loại vấn đề cụ thể và kết quả đầu ra như thế nào là tốt. Cách tiếp cận sử dụng kỹ năng này đã rút ngắn thời gian phát triển trường hợp sử dụng mới từ hàng tuần xuống còn hàng giờ.

Tính song song giúp hệ thống xử lý các nghiên cứu phức tạp hơn một cách hiệu quả. Một câu hỏi nghiên cứu có thể được chia nhỏ cho các tác nhân phụ, mỗi tác nhân xử lý một phần khác nhau của vấn đề, trong khi các tác nhân phụ đó có thể tiếp tục song song hóa công việc của chính chúng. Một hệ thống tệp ảo dùng chung được tích hợp vào Deep Agents harness đóng vai trò là bộ nhớ của hệ thống. Kết quả, nguồn và các bước trung gian được ghi lại và cung cấp để tái sử dụng, giúp đơn giản hóa việc phối hợp khi hệ thống mở rộng quy mô.

Về khả năng quan sát, Madrigal dựa vào LangSmith để có được cái nhìn toàn diện về mọi lệnh gọi công cụ, đoạn dữ liệu được truy xuất và quyết định của tác nhân.

Như Parth Patel, Giám đốc Toàn cầu về AI và Khoa học Dữ liệu tại Madrigal, đã nói, việc truy vết trước khi có LangSmith có nghĩa là đội ngũ có thể quan sát hành vi kích thích-phản ứng của hệ thống nhưng rất ít thông tin về những gì xảy ra bên trong. Sau đó, cảm giác giống như "đi từ tâm lý học cơ bản đến chẩn đoán hình ảnh thần kinh".

Đội ngũ bắt đầu với các đánh giá ở cấp độ truy vết trên các lần chạy tác nhân đầy đủ, sử dụng các bộ chấm điểm LLM-as-judge được thiết kế để phản ánh phản hồi thực tế của người dùng cuối và chấm điểm kết quả thay vì các lộ trình chính xác. Một trong những cải tiến bền vững nhất đến từ việc đưa các lỗi trong sản xuất trực tiếp trở lại các tập dữ liệu LangSmith. Mọi lỗi có ý nghĩa sẽ được sử dụng như một trường hợp kiểm thử mới, cho phép bộ đánh giá phát triển từ các lỗi thực tế thay vì chỉ dựa vào các ví dụ tổng hợp.

Triển khai là một lĩnh vực khác mà một đội ngũ nhỏ không thể tự xây dựng mọi thành phần hạ tầng từ đầu. Madrigal đã sử dụng LangSmith Deployment để triển khai đồ thị của mình dưới dạng dịch vụ được quản lý, với khả năng duy trì trạng thái, các phiên đồng thời, truyền phát thời gian thực tới giao diện người dùng và đường ống CI/CD tự động cập nhật các kỹ năng. Theo CIO Ron Filippo của Madrigal, việc chuyển từ nguyên mẫu sang sử dụng trong doanh nghiệp chỉ mất vài tuần thay vì hàng tháng như đội ngũ đã dự trù.

Bài học chính:

Abridge: Biến sự tin tưởng của bác sĩ lâm sàng thành một hệ thống đánh giá có thể đo lường

Abridge xây dựng AI giúp các bác sĩ lâm sàng chuyển đổi các cuộc hội thoại với bệnh nhân thành tài liệu lâm sàng. Hơn hai tỷ cuộc hội thoại giữa bác sĩ và bệnh nhân diễn ra tại Hoa Kỳ mỗi năm. Với sự đồng ý của bệnh nhân, bác sĩ lâm sàng ghi âm lại buổi khám, và Abridge chuyển đổi nó thành một ghi chú hữu ích về mặt lâm sàng có thể gửi vào hồ sơ sức khỏe điện tử. Mục tiêu là trả lại cho các bác sĩ lâm sàng "thời gian nghỉ ngơi" mà lẽ ra họ phải dành để hoàn thành tài liệu sau giờ làm việc.

Abridge hiện đang làm việc với hơn 250 đối tác hệ thống y tế trên hơn 50 chuyên khoa và 28 ngôn ngữ, ghi âm hơn 100 triệu cuộc hội thoại mỗi năm.

Công ty hoạt động dưới những ràng buộc định hình gần như mọi quyết định về sản phẩm. Tiêu chuẩn để một sản phẩm được ra mắt là cực kỳ cao vì rủi ro liên quan đến lâm sàng. Một chẩn đoán sai, một loại thuốc bị ảo giác hoặc liều lượng không chính xác có thể gây ra hậu quả thực sự về an toàn bệnh nhân. Tiêu chuẩn đó cũng áp dụng cho cách sản phẩm được xây dựng và triển khai, với HIPAA, việc xử lý PHI và sự tin tưởng của doanh nghiệp định hình kiến trúc ngay từ đầu.