MIT phát triển công cụ AI phân tích văn bản để đánh giá nguy cơ tự tử

Khi mọi người tìm kiếm sự giúp đỡ trong một cuộc khủng hoảng sức khỏe tâm thần, ưu tiên hàng đầu của các tư vấn viên là xác định những người có nguy cơ tự tử cao. Ngôn ngữ của người đang gặp khó khăn chứa đựng những manh mối quan trọng, và một công cụ mới do các nhà khoa học tại [McGovern Institute for Brain Research](#L1) thuộc MIT phát triển được thiết kế để nhận diện và đánh giá nhanh chóng các tín hiệu đó.

Công cụ xử lý ngôn ngữ này được phát triển bởi Daniel Low, cựu nghiên cứu sinh trong Senseable Intelligence Group của Nhà khoa học nghiên cứu cấp cao Satra Ghosh, hiện là nhà khoa học nghiên cứu tại Child Mind Institute, nơi anh lãnh đạo AI, Risk, and Contemplative Science Lab, đồng thời là học giả thỉnh giảng tại Đại học Harvard. Công cụ này sử dụng một danh sách từ ngữ và cụm từ được xây dựng tùy chỉnh, liên kết với 49 yếu tố nguy cơ tự tử, quét văn bản để tìm kiếm các từ này và sử dụng chúng để ước tính mức độ rủi ro của một cá nhân.

Ghosh, Low và các đồng nghiệp đã báo cáo hôm nay trên Tạp chí Tâm lý bệnh học và Khoa học Lâm sàng rằng công cụ của họ dự đoán chính xác nguy cơ tự tử từ các cuộc trò chuyện văn bản với các tư vấn viên khủng hoảng. Nó đang giúp làm rõ những yếu tố nguy cơ tự tử nào là quan trọng nhất trong thời điểm khủng hoảng. Với việc được kiểm chứng thêm, công cụ này có thể hỗ trợ đánh giá rủi ro trong môi trường lâm sàng và các tình huống hỗ trợ khủng hoảng.

Xác định các yếu tố nguy cơ chính

Các vụ tự tử vốn nổi tiếng là khó dự đoán. Hàng chục yếu tố nguy cơ đã được liên kết với hành vi tự tử, và ngay cả các bác sĩ lâm sàng được đào tạo bài bản cũng gặp khó khăn trong việc xác định ai sẽ thực hiện hành vi tự tử trong số những người có ý định tự tử. Trong số các yếu tố có thể làm tăng khả năng xuất hiện suy nghĩ và hành vi tự tử là một số triệu chứng và rối loạn tâm thần, như trầm cảm, rối loạn nhân cách ranh giới và rối loạn căng thẳng sau sang chấn, cũng như các yếu tố gây căng thẳng về môi trường và xã hội như nghèo đói, tù tội, phân biệt đối xử và sự cô đơn.

"Bạn thấy tất cả 50 yếu tố nguy cơ này, và chúng đều tương tác theo những cách mà chúng ta chưa thực sự hiểu rõ," Low nói. "Nhiều con đường khác nhau có thể dẫn đến việc một người cảm thấy muốn thoát khỏi nỗi đau nội tâm của họ," anh nói — và thật khó để biết con đường của ai sẽ dẫn đến một vụ tự tử hoặc tử vong.

Ghosh và Low muốn hiểu các tư vấn viên và bác sĩ lâm sàng nên chú ý nhất đến những yếu tố nguy cơ nào trong một cuộc khủng hoảng sức khỏe tâm thần. Để làm điều đó, họ đã hợp tác với Crisis Text Line, nơi các tình nguyện viên được đào tạo cung cấp hỗ trợ bảo mật qua tin nhắn cho những người đang gặp khó khăn.

Crisis Text Line, một tổ chức phi lợi nhuận về sức khỏe tâm thần toàn cầu cung cấp hỗ trợ sức khỏe tâm thần miễn phí, bảo mật, 24/7 cho những người cần giúp đỡ, đã cung cấp chương trình đào tạo chuyên biệt và quyền truy cập có kiểm soát vào tập dữ liệu hạn chế này. Các nhà nghiên cứu đã phân tích các văn bản đã được ẩn danh từ khoảng 16.000 cuộc trò chuyện với các tư vấn viên khủng hoảng tình nguyện của Crisis Text Line. Dựa trên các đánh giá của Crisis Text Line, các cuộc trò chuyện đó được chia thành ba mức độ rủi ro: không có ý định tự tử, có ý định tự tử nhưng không có nguy cơ tức thời, và nguy cơ tức thời. Chính nhóm nguy cơ tức thời này — những người có kế hoạch tự tử hoặc có ý định tử vong trong vòng 48 giờ tới — là nhóm mà các nhà nghiên cứu muốn tìm hiểu nhất.

"Chúng tôi muốn biết loại triệu chứng nào dự đoán nguy cơ tự tử cao nhất," Low nói. Câu hỏi này đã từng được nghiên cứu trước đây, anh cho biết — nhưng thường thông qua các khảo sát dịch tễ học yêu cầu một người nhớ lại các triệu chứng và trải nghiệm của họ, thường là sau khi cuộc khủng hoảng sức khỏe tâm thần của họ đã qua đi. Ngược lại, anh nói, "Crisis Text Line mang đến cho chúng tôi cơ hội đánh giá nhiều triệu chứng và yếu tố nguy cơ tiềm ẩn khác nhau ngay khi mọi người đang trải qua khủng hoảng."

Đọc giữa những dòng chữ

Trước khi phân tích các văn bản từ đường dây khủng hoảng, nhóm nghiên cứu đã xây dựng một từ điển về nguy cơ tự tử. Họ sử dụng trí tuệ nhân tạo để tạo ra danh sách sơ bộ các từ và cụm từ gắn liền với các yếu tố nguy cơ tự tử đã được thiết lập, bao gồm các yếu tố liên quan đến ý định tự tử, hành vi tự tử và tử vong do tự tử. Sau đó, họ xem xét và biên tập thủ công danh sách đó. Từ điển cuối cùng của họ bao gồm khoảng 60 từ hoặc cụm từ cho mỗi yếu tố trong số 49 yếu tố nguy cơ, với mức độ liên quan của từng từ được các bác sĩ lâm sàng chuyên gia xác nhận.

Sau đó, họ huấn luyện một mô hình học máy để tìm kiếm các từ và cụm từ trong từ điển của họ trong các cuộc trò chuyện khủng hoảng và sử dụng chúng để dự đoán nguy cơ tự tử. Vì từ điển liên kết mỗi từ hoặc cụm từ với một yếu tố nguy cơ cụ thể, họ có thể sử dụng dữ liệu này để xác định yếu tố nguy cơ nào gắn liền chặt chẽ nhất với nguy cơ tức thời ở những người đang gặp khủng hoảng.

Những gì họ tìm thấy nhất quán với các mô hình trong nghiên cứu trước đây, mặc dù không phải lúc nào cũng trực quan. Ví dụ, trầm cảm là một yếu tố nguy cơ nổi tiếng đối với ý định tự tử, nhưng mô hình của họ phát hiện ra rằng việc đề cập đến các phương tiện gây tử vong và sử dụng chất kích thích có khả năng xuất hiện ở nhóm nguy cơ cao nhất nhiều hơn so với tâm trạng chán nản hoặc mệt mỏi. Các biểu hiện về ý định tự tử chủ động và tự gây thương tích cũng là những yếu tố dự báo mạnh mẽ. Các yếu tố dự báo trung gian bao gồm lo âu, rối loạn căng thẳng sau sang chấn và nỗi đau tinh thần.

Mô hình dự đoán gán một trọng số cho mỗi yếu tố nguy cơ dựa trên đóng góp của nó vào rủi ro. Ví dụ, việc đề cập đến các phương tiện gây tử vong cho tự tử, như "cắt" hoặc "thuốc", được cân nhắc kỹ lưỡng, trong khi các thuật ngữ liên quan đến sự tuyệt vọng, như "không biết phải làm gì" hoặc "tuyệt vọng", đóng góp ở mức độ thấp hơn. Sau khi huấn luyện mô hình, nhóm nghiên cứu nhận thấy họ có thể sử dụng nó để dự đoán chính xác mức độ nghiêm trọng của rủi ro trong các cuộc trò chuyện mới mà mô hình chưa từng thấy trước đây.

Một hạn chế của từ điển, các nhà nghiên cứu lưu ý, là chúng không xem xét ngữ cảnh của các thuật ngữ và có thể bỏ sót các thuật ngữ tương tự với những từ trong từ điển nhưng không được đưa vào một cách rõ ràng. Các mô hình ngôn ngữ lớn có khả năng suy luận, và Low cùng các đồng nghiệp đã phát triển các cách sử dụng mô hình ngôn ngữ lớn để phát hiện nguy cơ tự tử trong các dự án khác. Tuy nhiên, họ cho biết họ thường sử dụng từ điển của mình song song để đảm bảo gắn cờ các thuật ngữ nhất định, cũng như để duy trì quyền riêng tư dữ liệu.

Low nhấn mạnh rằng mặc dù nhóm đã sử dụng sức mạnh của mô hình ngôn ngữ lớn để phát triển từ điển, mô hình dự đoán của họ là một mô hình đơn giản, "nhẹ". Không giống như các mô hình ngôn ngữ lớn đòi hỏi sức mạnh tính toán khổng lồ, nó có thể chạy dễ dàng trên máy tính cá nhân, giảm cả chi phí và lo ngại về quyền riêng tư. Quan trọng không kém, nó có khả năng giải thích: Thay vì chỉ tạo ra một ước tính rủi ro như một số mô hình học sâu có thể làm hiệu quả hơn, nó cho người dùng biết cách nó đạt được kết quả đó. Các từ ngữ đáng lo ngại có thể được gắn cờ để người dùng hiểu cơ sở cho mỗi đánh giá và hành động dựa trên thông tin đó. Họ đang nghiên cứu các phương pháp giải thích tương tự với các mô hình ngôn ngữ lớn.

Điều đó rất quan trọng vì mức độ rủi ro là vô cùng lớn. “Đây là một lĩnh vực phức tạp đến mức tôi nghĩ việc có sự tham gia của con người trong quy trình (human in the loop) sẽ là yếu tố then chốt trong một thời gian rất dài,” Ghosh, giám đốc Sáng kiến Dữ liệu Mở trong Khoa học Thần kinh tại Viện McGovern, cho biết. Tương tự, các nhà nghiên cứu nói thêm rằng bất kỳ mô hình dự đoán nào cũng phải được kiểm chứng kỹ lưỡng trước khi đưa vào sử dụng lâm sàng, đồng thời có thể cần được tinh chỉnh liên tục để bắt kịp những thay đổi trong cách sử dụng ngôn ngữ hoặc các nhóm đối tượng mục tiêu.

Vì một bộ từ vựng đáng tin cậy sẽ mở ra những cách tiếp cận mới để thấu hiểu sức khỏe tâm thần, Ghosh và Low đang chia sẻ rộng rãi không chỉ bộ từ vựng về nguy cơ tự tử của họ mà còn cả gói phần mềm mà họ đã phát triển để xây dựng nó. Các nhà nghiên cứu có thể sử dụng công cụ đó để xây dựng hiệu quả các bộ từ vựng cho những tình trạng sức khỏe tâm thần khác. Trong khi đó, Low cho biết bộ từ vựng về nguy cơ tự tử hiện đã được sử dụng để khám phá cách dữ liệu văn bản từ nhiều nguồn khác nhau, từ mạng xã hội đến hồ sơ sức khỏe điện tử, có thể giúp các nhà nghiên cứu và bác sĩ lâm sàng ước tính rủi ro tốt hơn.