Cảnh báo từ Anh: Công cụ AI ghi chép y tế sai sót nghiêm trọng, đe dọa an toàn bệnh nhân

Theo tin từ IT ngày 31 tháng 8, tờ The Guardian của Anh đưa tin, một cơ quan quản lý thuộc Dịch vụ Y tế Quốc gia (NHS) của Anh đã cảnh báo rằng công nghệ AI được sử dụng để nghe và ghi chép lại nội dung thăm khám giữa bệnh nhân và bác sĩ có thể gây rủi ro cho bệnh nhân, vì các công cụ này có thể nhận diện sai tên thuốc và tên bệnh.

Trong một trường hợp, một nữ bệnh nhân đã vô cùng hoảng sợ vì công cụ ghi chép y tế bằng AI đã tóm tắt sai cuộc trò chuyện của cô với bác sĩ. Bản tóm tắt do AI tạo ra cho biết cô bị "mất myelin" (demyelination), tức là tổn thương thần kinh nghiêm trọng có thể dẫn đến bệnh đa xơ cứng.

Bản thân bệnh nhân này cũng là một chuyên gia y tế của NHS. Sau khi cô đặt nghi vấn về kết quả chụp MRI do công cụ AI ghi lại, bệnh viện mới phát hiện ra sai sót và đính chính lại thành "không mất myelin" như đúng hồ sơ cần ghi.

"Cuối cùng thì lỗi sai cũng được sửa, nhưng việc AI đưa ra chẩn đoán sai, rồi sau đó lại bảo với tôi rằng đó chỉ là lỗi đánh máy, thực sự là một trải nghiệm vô cùng đau đớn đối với tôi", người phụ nữ giấu tên chia sẻ.

IT lưu ý, tổ chức bảo vệ quyền lợi bệnh nhân Healthwatch England gần đây đã công khai trường hợp này cùng các sai sót khác của công cụ ghi chép y tế bằng AI, nhằm minh chứng rằng công nghệ đang được triển khai nhanh chóng tại NHS này có thể đe dọa đến sự an toàn của bệnh nhân.

Healthwatch cho biết, nếu những sai sót này không được phát hiện kịp thời, chúng có thể bị đưa vào hồ sơ y tế của bệnh nhân và gây ảnh hưởng tiêu cực đến quá trình điều trị sau đó.

Trong một trường hợp khác, một công cụ ghi chép y tế bằng AI đã nhầm lẫn loại thuốc do bác sĩ đa khoa kê đơn với một loại thuốc khác có tên tương tự. Người phát hiện ra sai sót này cuối cùng cũng không phải là bác sĩ, mà chính là bệnh nhân.

Một lần khác, thư tóm tắt do AI tạo ra đã không đề cập đến việc bác sĩ chuyên khoa tại bệnh viện từng dặn bệnh nhân cần phải xin bác sĩ đa khoa của mình cấp tiếp đơn thuốc điều trị chứng đau nửa đầu. Sự thiếu sót này có thể khiến bệnh nhân không nhận được thuốc cần thiết theo đúng quy trình.

Với tư cách là cơ quan đại diện quyền lợi bệnh nhân theo luật định của NHS, Healthwatch cho biết họ đã ghi nhận nhiều trường hợp "bệnh nhân phát hiện ra lỗi sai, trong khi các chuyên gia y tế lại không nhận ra".

Healthwatch chỉ ra rằng: "Nếu bệnh nhân không phát hiện ra những sai sót này, những thông tin không chính xác đó có thể sẽ tồn tại mãi trong hồ sơ y tế của họ."

Kế hoạch y tế 10 năm mà chính phủ Anh xây dựng cho NHS tại Anh hy vọng thông qua các công cụ ghi chép y tế bằng AI để "giúp nhân viên y tế thoát khỏi khối lượng công việc giấy tờ và hành chính nặng nề hiện nay, từ đó dành nhiều thời gian hơn cho việc cung cấp dịch vụ y tế và tập trung vào bệnh nhân".

Công cụ ghi chép y tế bằng AI cũng là một trong những công nghệ cốt lõi trong kế hoạch chuyển đổi lớn của NHS, nhằm thúc đẩy NHS chuyển dịch từ dịch vụ y tế mô phỏng truyền thống sang dịch vụ kỹ thuật số.

Một phát ngôn viên của Healthwatch cho biết: "Dịch vụ y tế không bao giờ có thể đạt mức không sai sót. Nhưng kết quả điều tra của chúng tôi cho thấy hiện đang rất cần làm rõ việc bệnh nhân nên báo cáo sai sót do công cụ AI hoặc do nhân viên y tế sử dụng các công cụ này gây ra như thế nào, cũng như cách thức để sửa chữa những sai sót đó."

Giám đốc điều hành Hiệp hội Bệnh nhân Anh, bà Rachel Power, cho biết: "Sự tin tưởng và niềm tin của bệnh nhân vào công nghệ này phụ thuộc vào sự giao tiếp tốt và sự hợp tác thực chất với bệnh nhân, mà hiện tại cả hai yếu tố này đều đang thiếu hụt."

Healthwatch cũng cho biết, quyết định của Cơ quan Quản lý Thuốc và Sản phẩm Chăm sóc Sức khỏe Anh (MHRA) về việc không phân loại công cụ ghi chép y tế bằng AI là thiết bị y tế là điều "đáng lo ngại". Điều này có nghĩa là hiện tại Anh sẽ không thiết lập cơ chế quản lý bao phủ toàn quốc để đảm bảo các công cụ này được sử dụng an toàn và hiệu quả.

Hiện nay, các bác sĩ đa khoa và bác sĩ bệnh viện tại Anh đã và đang sử dụng 27 loại công cụ ghi chép y tế bằng AI khác nhau.

Trước đó, các bộ trưởng chính phủ đã được cảnh báo rằng nếu AI xảy ra sai sót y tế, NHS và các nhân viên y tế liên quan có thể phải đối mặt với các vụ kiện tụng.

Gần đây, vấn đề độ chính xác của AI cũng một lần nữa thu hút sự chú ý. Một số bệnh nhân tại khu vực Rotherham, Anh đã khiếu nại với Healthwatch địa phương rằng hệ thống tiếp tân bằng AI được sử dụng tại một số phòng khám đa khoa không thể hiểu đúng giọng vùng Yorkshire đặc trưng của họ.

Tiến sĩ Shier Ziser Dawood, một bác sĩ đa khoa tại London, năm ngoái cũng từng viết bài trên một tạp chí y khoa uy tín cảnh báo rằng công cụ ghi chép y tế bằng AI có thể là "con dao hai lưỡi" đối với các bác sĩ đa khoa.

Cô nhớ lại, một công cụ ghi chép y tế bằng AI đã ghi lại rằng cô từng dặn một bệnh nhân "tiếp tục dùng Prozac", nhưng thực tế, cô chưa từng kê loại thuốc này cho bệnh nhân đó, cũng như không hề thảo luận về loại thuốc này với bệnh nhân.

Đây chính là hiện tượng được gọi là "ảo giác AI" (AI hallucination), tức là công cụ ghi chép y tế bằng AI đề cập đến những nội dung hoàn toàn không xuất hiện trong quá trình thăm khám khi tạo hồ sơ.

Dawood cảnh báo rằng các bác sĩ vẫn cần phải kiểm tra toàn bộ hồ sơ thăm khám do AI tạo ra để xác nhận không có sai sót, vì vậy các công cụ AI này hiện tại chưa thực sự tiết kiệm thời gian cho bác sĩ.

Trong bài viết trên Tạp chí Y học Đa khoa Anh (British Journal of General Practice), Dawood chỉ ra rằng ban quản lý NHS cho rằng công cụ ghi chép y tế bằng AI sẽ giúp bác sĩ đa khoa không cần phải viết tay hoặc nhập ghi chú trong quá trình thăm khám, do đó trong tương lai, bác sĩ đa khoa có thể được yêu cầu tiếp nhận thêm hai bệnh nhân mỗi ngày.

Tuy nhiên, cùng lúc đó, thời gian thăm khám mỗi ca của bác sĩ đa khoa tại NHS hiện đã thuộc hàng ngắn nhất thế giới.

Tiến sĩ Charlotte Blease, chuyên gia về ứng dụng AI trong y tế tại Đại học Uppsala, Thụy Điển cho biết: "AI thực sự có thể mắc lỗi, và nó đã và đang mắc lỗi."

Nghiên cứu của cô cho thấy, các bác sĩ đa khoa sử dụng công nghệ giọng nói môi trường để ghi lại nội dung thăm khám cho rằng AI dễ xảy ra sai sót hơn trong các trường hợp: có nhiều hơn một bệnh nhân hoặc người đi kèm trong quá trình thăm khám; bệnh sử của bệnh nhân phức tạp; và tiếng Anh không phải là ngôn ngữ mẹ đẻ của bệnh nhân.

Tuy nhiên, Blease cũng chỉ ra rằng: "Sự thật là khi không có AI, bác sĩ cũng vẫn mắc lỗi. Hơn nữa, sau khi có sự can thiệp của AI, tỷ lệ sai sót tất nhiên cũng có khả năng cao hơn."

Blease cho biết, trong cuộc khảo sát của cô với 1.003 bác sĩ đa khoa tại Anh vào năm ngoái, hơn một nửa số người được hỏi cho rằng hồ sơ y tế do họ tạo ra bằng AI môi trường chính xác hơn so với nội dung họ tự tay ghi chép.