Các cơ quan y tế công cộng Mỹ thử nghiệm mô hình AI từ OpenAI và Anthropic

Các sở y tế công cộng trên khắp Hoa Kỳ sẽ thử nghiệm các công cụ AI tạo sinh (generative AI) theo một chương trình mới với sự tham gia của Coalition for Health AI (CHAI), OpenAI, Anthropic và Accenture.

Công cụ có tên là Public Health Use Case and Learning Scaling Engine (PULSE) sẽ hỗ trợ các cuộc thử nghiệm tại 10 khu vực pháp lý cấp tiểu bang, địa phương, bộ lạc hoặc lãnh thổ. Chương trình này nhằm mục đích tạo ra hướng dẫn triển khai cho các cơ quan y tế công cộng đang cân nhắc các phương án áp dụng tương tự.

OpenAI và Anthropic đã tài trợ 10 giấy phép doanh nghiệp với khả năng hỗ trợ lên đến 2.000 chuyên gia y tế công cộng. Accenture sẽ giám sát quá trình tiếp nhận người tham gia và hỗ trợ xây dựng các cẩm nang hướng dẫn dựa trên kết quả thử nghiệm.

Chương trình sẽ cung cấp cho các chuyên gia y tế công cộng quyền truy cập vào các sản phẩm AI doanh nghiệp từ OpenAI và Anthropic. CHAI chưa xác định cụ thể các sản phẩm, phiên bản mô hình hoặc cấu hình nào sẽ được sử dụng, cũng như chưa giải thích cách thức phân bổ hai nhà cung cấp này cho các dự án thí điểm.

“Mọi cuộc chuyển đổi công nghệ lớn đều thành công hay thất bại dựa trên niềm tin, quản trị và thực thi,” Tiến sĩ David Lakey, cựu ủy viên y tế Texas, cho biết. “PULSE sẽ hỗ trợ các cơ quan trong nỗ lực này và được thiết kế đặc biệt để triển khai thực tế.”

Năm trường hợp sử dụng trong y tế công cộng

Hội đồng lãnh đạo của Coalition for Health AI sẽ lựa chọn các khu vực pháp lý tham gia và phân công các chuyên gia vào các nhóm tập trung vào năm trường hợp sử dụng. Các trường hợp này bao gồm: giám sát sinh học và dự đoán làn sóng ma túy; các yếu tố xã hội quyết định sức khỏe và lập bản đồ SDoH; vận hành, hiệu quả và phân tích phản hồi từ cộng đồng; truyền thông công cộng và trung tâm dịch thuật đa ngôn ngữ; cùng với truy xuất dữ liệu lâm sàng tự động và công cụ truy vấn FHIR.

Khung quản lý rủi ro AI của NIST khuyến nghị đánh giá các hệ thống AI dựa trên mục đích sử dụng, môi trường vận hành, các bên bị ảnh hưởng và hậu quả tiềm ẩn. CHAI vẫn chưa công bố các yêu cầu riêng biệt về đánh giá, quyền riêng tư, bảo mật hoặc kiểm duyệt của con người cho năm trường hợp sử dụng của PULSE.

FHIR là một tiêu chuẩn HL7 được sử dụng để trao đổi thông tin chăm sóc sức khỏe bằng phương thức điện tử giữa các hệ thống tương thích.

PULSE bao gồm tính năng truy xuất dữ liệu lâm sàng tự động và công cụ truy vấn FHIR, mặc dù thông báo không xác định rõ vai trò của AI tạo sinh trong quy trình làm việc đó. Thông báo cũng không nêu rõ liệu các mô hình sẽ tạo truy vấn, truy xuất hồ sơ, tóm tắt thông tin trả về hay kết hợp các chức năng này.

Thông báo cũng không giải thích liệu các truy vấn không chính xác, dữ liệu truy xuất không đầy đủ hoặc các bản tóm tắt không được hỗ trợ có được nhân viên kiểm tra trước khi thông tin được sử dụng hay không.

Một số ứng dụng được đề xuất có thể liên quan đến thông tin nhân khẩu học, địa lý, lâm sàng hoặc sức khỏe cộng đồng. CHAI chưa cho biết liệu các dự án thí điểm sẽ sử dụng hồ sơ định danh, thông tin đã khử định danh, dữ liệu tổng hợp (synthetic data) hay các tập dữ liệu gộp.

Bộ Y tế và Dịch vụ Nhân sinh Hoa Kỳ yêu cầu các tổ chức thuộc phạm vi điều chỉnh của HIPAA phải bảo vệ một số thông tin sức khỏe điện tử nhất định. Hướng dẫn về điện toán đám mây của bộ này nêu rõ rằng các tổ chức và nhà cung cấp dịch vụ được quản lý phải đáp ứng các yêu cầu của HIPAA khi hệ thống đám mây tạo, nhận, duy trì hoặc truyền tải thông tin sức khỏe điện tử được bảo vệ.

HIPAA sẽ không áp dụng cho mọi tổ chức hoặc quy trình làm việc tham gia. Việc áp dụng sẽ phụ thuộc vào cơ quan, dữ liệu liên quan và chức năng đang được thực hiện.

OpenAI tuyên bố rằng dữ liệu đầu vào và đầu ra từ các dịch vụ doanh nghiệp của họ, bao gồm ChatGPT Enterprise và API, theo mặc định không được sử dụng để huấn luyện hoặc cải thiện các mô hình của họ. Anthropic cũng cho biết họ không sử dụng dữ liệu đầu vào và đầu ra từ các sản phẩm thương mại của mình để huấn luyện mô hình theo mặc định.

Các chính sách của nhà cung cấp đó không xác định cách thức cấu hình các triển khai PULSE. Thông báo không đưa ra các quy định về thời gian lưu trữ, kiểm soát truy cập, thỏa thuận kiểm toán, yêu cầu lưu trữ dữ liệu hoặc các quy tắc quản lý việc gửi thông tin sức khỏe được bảo vệ.

“Chúng tôi tin rằng AI nên hữu ích, an toàn và dễ tiếp cận đối với những người đang giải quyết các thách thức quan trọng nhất của xã hội,” Felipe Millon, Giám đốc mảng chính phủ của OpenAI, cho biết. Ông nói thêm rằng các giấy phép này nhằm giúp các tổ chức y tế công cộng đánh giá các công cụ thông qua một quy trình có cấu trúc.

Quản trị và đánh giá vẫn chưa được xác định

Các dự án thí điểm dự kiến bắt đầu vào mùa thu năm 2026. CHAI hy vọng các cẩm nang hướng dẫn thu được sẽ được công bố vào năm 2027 và được sử dụng làm tài liệu tham khảo cho các cơ quan y tế công cộng khác.

CHAI chưa công bố các thước đo sẽ được sử dụng để đánh giá các dự án thí điểm hoặc giải thích liệu mỗi trường hợp sử dụng có được đánh giá theo các tiêu chí kỹ thuật, vận hành, quyền riêng tư và an toàn riêng biệt hay không.

Thông báo cũng không giải thích cách thức kiểm duyệt kết quả đầu ra của mô hình. Thông báo không nêu rõ liệu nhân viên có bắt buộc phải phê duyệt các thông tin truyền thông công cộng được tạo ra, xác minh bản dịch, xác thực thông tin lâm sàng được truy xuất hoặc xem xét kết quả giám sát sinh học và dự đoán làn sóng ma túy trước khi chúng được sử dụng hay không.

Hướng dẫn của NIST khuyến nghị xác định các chức năng AI nào cần sự giám sát của con người và đào tạo người dùng để hiểu về hiệu suất cũng như các hạn chế của hệ thống. Hướng dẫn về AI tạo sinh của NIST cũng bao gồm các nội dung về thử nghiệm, xác thực, giám sát, tài liệu hóa, quyền riêng tư và quản lý giám sát.

“Các đội ngũ y tế công cộng đang được yêu cầu làm nhiều việc hơn với nguồn lực ít hơn, và AI có thể giúp ích — miễn là nó được đưa vào một cách cẩn trọng và có các rào chắn phù hợp,” Elizabeth Kelly, Giám đốc mảng triển khai có lợi của Anthropic, cho biết. Bà nói rằng PULSE sẽ cho phép các chuyên gia thử nghiệm các công cụ trong môi trường riêng của họ với các biện pháp về quyền riêng tư, quản trị và sử dụng có trách nhiệm được tích hợp ngay từ đầu.

Dữ liệu từ Hiệp hội các quan chức y tế quận và thành phố quốc gia (NACCHO) được CHAI trích dẫn cho thấy gần 40% các sở y tế địa phương không sử dụng AI. Liên minh này cho biết một số sở quan tâm đến việc sửa đổi quy trình làm việc và cải thiện hiệu quả vận hành.

PULSE sẽ cung cấp giấy phép doanh nghiệp, quy trình tiếp nhận, cộng đồng đồng đẳng và cẩm nang triển khai. CHAI chưa quy định các yêu cầu tối thiểu về nhân sự, cơ sở hạ tầng, khả năng tương tác hoặc an ninh mạng cho các khu vực pháp lý tham gia.

Những người tham gia đủ điều kiện bao gồm các sở y tế tiểu bang và lãnh thổ, các cơ quan quận và đô thị, chính quyền bộ lạc, các tổ chức y tế người bản địa và các sở y tế thành phố lớn.

PULSE có kế hoạch chuyển đổi các kết quả từ 10 khu vực pháp lý thành hướng dẫn sử dụng rộng rãi hơn. Thông báo không giải thích cách thức các cẩm nang sẽ tính đến sự khác biệt về quy mô cơ quan, hệ thống kỹ thuật, trách nhiệm pháp lý, nhân sự hoặc các thỏa thuận mua sắm.

Thông báo cũng không giải thích liệu kết quả từ việc giám sát sinh học, dự đoán làn sóng ma túy hoặc truy xuất dữ liệu lâm sàng sẽ chỉ được sử dụng để thử nghiệm, trình cho nhân viên xem xét hay tích hợp vào các quy trình vận hành thực tế.

PULSE là một phần trong công việc rộng lớn hơn của Coalition for Health AI về các tiêu chuẩn quản trị cho AI trong chăm sóc sức khỏe. Vào tháng 5, tổ chức này đã công bố kế hoạch phát triển hướng dẫn bao gồm tám lĩnh vực quản trị thông qua các hội thảo và nhóm làm việc với sự tham gia của hơn 150 đại diện AI trong lĩnh vực chăm sóc sức khỏe.

Kể từ đó, liên minh đã bắt đầu xuất bản các cẩm nang về chính sách AI của tổ chức, cấu trúc quản trị và tài nguyên nội bộ. Các hướng dẫn bổ sung dự kiến sẽ bao gồm các lĩnh vực khác trong quản lý AI chăm sóc sức khỏe.

Ngoài ra, CHAI đã làm việc với Joint Commission về các cẩm nang quản trị phù hợp với chứng nhận tự nguyện "Sử dụng AI có trách nhiệm trong chăm sóc sức khỏe" của họ. Thông báo về PULSE không nêu rõ rằng các cơ quan y tế công cộng tham gia sẽ được đánh giá theo chứng nhận đó.

Tiến sĩ Brian Anderson, Giám đốc điều hành của Coalition for Health AI, cho biết các cơ quan y tế công cộng đã bước vào đại dịch COVID-19 sau nhiều năm đầu tư hạn chế vào công nghệ. Ông cho biết chương trình PULSE nhằm mục đích mang lại cho các cơ quan kinh nghiệm thực tế với AI trước khi triển khai rộng rãi hơn.

“Chúng ta biết AI sẽ định hình lại cách chúng ta cung cấp dịch vụ y tế công cộng — vấn đề là liệu chúng ta có thực hiện điều đó một cách chu đáo hay không,” Tiến sĩ Ashish Jha, cựu điều phối viên ứng phó COVID-19 của Nhà Trắng, cho biết. Ông nói rằng chương trình sẽ thử nghiệm xem những ứng dụng nào hiệu quả và ghi lại các kết quả để các cơ quan khác tham khảo.

Xem thêm: Bunkerhill huy động 55 triệu USD để mở rộng AI tác nhân (agentic AI) trên các hệ thống y tế.

Bạn muốn tìm hiểu thêm về AI và dữ liệu lớn từ các nhà lãnh đạo ngành? Hãy tham khảo AI & Big Data Expo diễn ra tại Amsterdam, California và London. Sự kiện toàn diện này là một phần của TechEx và được tổ chức cùng với các sự kiện công nghệ hàng đầu khác bao gồm Cyber Security & Cloud Expo. Nhấp vào đây để biết thêm thông tin.

AI News được vận hành bởi TechForge Media. Khám phá các sự kiện và hội thảo trực tuyến về công nghệ doanh nghiệp sắp tới tại đây.