Google ra mắt SensorFM: Mô hình nền tảng đa năng cho dữ liệu sức khỏe từ thiết bị đeo

Các ước tính cho thấy hiện có hàng tỷ thiết bị đeo đang được sử dụng, theo dõi chính xác nhịp tim, chuyển động, nhiệt độ da, nồng độ oxy trong máu và giấc ngủ qua từng ngày, từng tuần và từng tháng. Luồng dữ liệu sinh lý và hành vi liên tục, theo chiều dọc này cung cấp một trong những nguồn nguyên liệu hứa hẹn nhất cho y tế dự phòng và cá nhân hóa. Tuy nhiên, việc chuyển đổi các tín hiệu cấp thấp đó thành những thông tin chi tiết có ý nghĩa vẫn còn là một thách thức. Thứ nhất, các chỉ số sinh lý cơ bản, lối sống và sức khỏe khác nhau rất lớn giữa người này với người khác, vì vậy một kiểu mẫu báo hiệu rủi ro ở cá nhân này có thể không đúng với cá nhân khác. Thứ hai, các nhãn cần thiết để huấn luyện mô hình — như chẩn đoán xác định, kết quả xét nghiệm, bảng câu hỏi đã được kiểm chứng — rất đắt đỏ, thu thập chậm và gần như không thể thu thập hồi cứu. Kết quả là, hầu hết các mô hình sức khỏe trên thiết bị đeo đều được xây dựng cho từng kết quả cụ thể, với các quy trình có giám sát được thiết kế riêng nhắm vào một mục tiêu hẹp và gặp khó khăn trong việc khái quát hóa trên toàn bộ phạm vi sức khỏe con người.

Trong bài viết “Hướng tới Trí tuệ Tổng quát và Giao diện cho Dữ liệu Sức khỏe Thiết bị đeo”, chúng tôi áp dụng một cách tiếp cận khác. Chúng tôi giới thiệu SensorFM, một Mô hình Nền tảng Cảm biến Lớn (Large Sensor Foundation Model) học trực tiếp từ dữ liệu thiết bị đeo không gắn nhãn ở quy mô dân số. Được huấn luyện trước trên hơn một nghìn tỷ phút tín hiệu cảm biến đa phương thức từ năm triệu người tham gia đã đồng ý, SensorFM học một biểu diễn duy nhất, có thể tái sử dụng về sinh lý con người — một biểu diễn có khả năng chuyển đổi giữa các lĩnh vực sức khỏe tim mạch, trao đổi chất, giấc ngủ, sức khỏe tâm thần, cũng như các yếu tố lối sống và nhân khẩu học. Theo hiểu biết của chúng tôi, đây là tập dữ liệu thiết bị đeo lớn nhất và đa dạng nhất được sử dụng để huấn luyện một mô hình cho đến nay.

Học từ một nghìn tỷ phút dữ liệu cảm biến

Để xây dựng kho dữ liệu huấn luyện trước, chúng tôi đã lấy mẫu dữ liệu ẩn danh từ năm triệu người đã đồng ý cho phép sử dụng dữ liệu của họ cho nghiên cứu sức khỏe và thể chất, được thu thập từ tháng 9 năm 2024 đến tháng 9 năm 2025. Tập dữ liệu bao gồm hơn 100 quốc gia, tất cả 50 tiểu bang của Hoa Kỳ và hơn 20 mẫu thiết bị Fitbit và Pixel Watch. Từ mỗi người, chúng tôi trích xuất dữ liệu trong vài tuần, tạo ra hơn hai tỷ giờ — tương đương hơn một nghìn tỷ phút — tín hiệu với độ phân giải theo phút.

SensorFM tiếp nhận 34 đặc trưng tổng hợp theo phút từ năm phương thức cảm biến: đo thể tích quang học (PPG), đo gia tốc, hoạt động điện da (EDA), nhiệt độ da và đo độ cao. Tổng hợp lại, chúng ghi lại nhịp tim và biến thiên nhịp tim, độ bão hòa oxy trong máu, các giai đoạn giấc ngủ, chuyển động và số bước chân, độ dẫn điện của da và nhiệt độ trong suốt khung thời gian 24 giờ.

Thay vì dựa vào các nhãn, SensorFM học thông qua quá trình tái tạo tự giám sát, xây dựng dựa trên phương pháp LSM-2 và khung làm việc Adaptive and Inherited Masking (AIM). Đây là một lựa chọn thiết kế quan trọng, vì dữ liệu bị thiếu và phân mảnh (ví dụ: các khoảng thời gian không có dữ liệu) là điều bình thường đối với các thiết bị đeo, do nhiều yếu tố như chu kỳ nguồn của cảm biến, thiết bị rời khỏi cổ tay, chế độ tiết kiệm năng lượng và việc cảm biến tự động bật/tắt. Các phương pháp tự giám sát truyền thống giả định đầu vào hoàn chỉnh, không bị gián đoạn, do đó buộc phải bù đắp các khoảng trống (có thể gây ra sai lệch) hoặc loại bỏ các cửa sổ dữ liệu không đầy đủ (làm mất đi dữ liệu có giá trị). AIM không đi theo con đường nào trong số đó: nó coi việc thiếu dữ liệu trong thế giới thực là một đặc điểm tự nhiên và học trực tiếp từ các bản ghi không đầy đủ, kết hợp các token kế thừa từ các khoảng trống thực tế với những token được che giấu nhân tạo cho mục tiêu tái tạo và coi hai loại này là tương đương. Kết quả là một biểu diễn có khả năng nhận thức được sự thiếu hụt dữ liệu ngay từ cấu trúc. SensorFM không chỉ chịu đựng dữ liệu phân mảnh mà còn sử dụng nó một cách hiệu quả, như các kết quả tạo sinh dưới đây cho thấy.

Việc mở rộng quy mô mô hình và dữ liệu cùng nhau mang lại hiệu quả

Một câu hỏi trọng tâm đối với bất kỳ mô hình nền tảng nào là liệu quy mô có chuyển đổi thành năng lực hay không. Chúng tôi đã thực hiện một loạt các thí nghiệm mở rộng quy mô có hệ thống, trải dài bốn bậc độ lớn về cả khối lượng dữ liệu huấn luyện trước (từ khoảng 2 triệu đến 2 tỷ giờ cảm biến) và kích thước mô hình (từ 100 nghìn đến 100 triệu tham số).

Kết quả là một tín hiệu rõ ràng và đầy khích lệ: tổn thất huấn luyện trước giảm một cách có thể dự đoán được khi dữ liệu và năng lực tăng lên, và quan trọng hơn là những lợi ích đó được chuyển sang các tác vụ sức khỏe hạ nguồn. Mô hình lớn nhất (SensorFM-B) được huấn luyện trên toàn bộ kho dữ liệu năm triệu người đã giảm 31% tổn thất tái tạo so với biến thể nhỏ nhất, đồng thời cải thiện hiệu suất hạ nguồn trung bình 9% (AUC) đối với các tác vụ phân loại và 21% (Hệ số Pearson) đối với các tác vụ hồi quy.

Những cải tiến lớn nhất đến từ việc mở rộng quy mô cả hai chiều cùng lúc. Việc tăng dữ liệu và năng lực theo tỷ lệ mang lại lợi ích gần như tuyến tính trong cả quá trình huấn luyện trước tạo sinh và hiệu suất phân biệt hạ nguồn — và đường cong này không có dấu hiệu bão hòa. Trên các biến thể mô hình, SensorFM-B giành chiến thắng ở 33 trên 35 tác vụ.

Một biểu diễn, nhiều lĩnh vực sức khỏe

Để kiểm tra xem biểu diễn đã học được có tính khái quát đến mức nào, chúng tôi đã đánh giá SensorFM trên 35 tác vụ sức khỏe phân biệt được rút ra từ ba nghiên cứu tiền cứu độc lập, đã được Hội đồng Đánh giá Thể chế (IRB) phê duyệt với tổng cộng 13.985 người tham gia. Các tác vụ bao gồm sáu danh mục: sức khỏe tim mạch, rủi ro trao đổi chất, sức khỏe tâm thần, giấc ngủ, nhân khẩu học và lối sống.

Để thăm dò trực tiếp chất lượng của các embedding, chúng tôi giữ nguyên bộ mã hóa (encoder) của SensorFM và chỉ huấn luyện một lớp tuyến tính nhẹ bên trên — sau đó so sánh với các mô hình cơ sở có giám sát được huấn luyện trên các đặc trưng đã qua kỹ thuật thủ công. Đây là những gì chúng tôi tìm thấy:

Một “lớp học” các tác nhân để xây dựng các đầu dự đoán

Một embedding tổng quát chỉ hữu ích khi nỗ lực cần thiết để thích nghi nó là tối thiểu. Theo truyền thống, việc biến các embedding thành một bộ dự đoán mạnh mẽ cho mỗi điểm cuối mới đòi hỏi kỹ thuật đặc trưng thủ công, lựa chọn kiến trúc và tinh chỉnh siêu tham số — công việc tẻ nhạt trở nên khó khăn hơn khi số lượng tác vụ tăng lên.

Để tự động hóa việc này, chúng tôi đã xây dựng một “lớp học” tác nhân: một tập hợp các tác nhân LLM cộng tác và cạnh tranh, liên tục tạo, kiểm tra và tinh chỉnh mã thực thi để xây dựng các đầu dự đoán trên các embedding của SensorFM. Trong các thí nghiệm của chúng tôi, hệ thống đã khám phá hơn 30.000 giải pháp ứng viên.

Các đầu dự đoán do tác nhân thiết kế đã vượt qua các bộ dò tuyến tính đơn giản trong 16 trên 20 tác vụ phân loại và 12 trên 15 tác vụ hồi quy. Hai mô hình nổi bật: chất lượng giải pháp cải thiện đơn điệu trong suốt quá trình tìm kiếm và nó tỷ lệ thuận với năng lực của LLM nền tảng — các mô hình có năng lực hơn (như các phiên bản Gemini gần đây) tạo ra các giải pháp tốt hơn, trong khi sự cộng tác giữa các tác nhân giúp các mô hình có năng lực thấp hơn thu hẹp khoảng cách.

Xây dựng nền tảng cho Tác nhân Sức khỏe Cá nhân

Cuối cùng, chúng tôi đặt câu hỏi liệu SensorFM có hữu ích từ đầu đến cuối hay không — như một công cụ làm nền tảng cho một huấn luyện viên sức khỏe AI dựa trên chính sinh lý của một người. Chúng tôi đã tích hợp SensorFM vào một Tác nhân Sức khỏe Cá nhân (Personal Health Agent) và so sánh ba điều kiện để tạo ra các bản tóm tắt sức khỏe từ 31 hồ sơ người tham gia thực tế:

Một hội đồng bác sĩ lâm sàng, không biết về điều kiện thử nghiệm, đã đánh giá các bản tóm tắt thu được dựa trên năm tiêu chí — bối cảnh, mức độ liên quan, tính hợp lý, tính cá nhân hóa và khả năng gây hại — tạo ra 1.860 đánh giá trong hơn 40 giờ đánh giá chuyên môn. Các phát hiện rất ấn tượng. Việc thêm các dự đoán của SensorFM đã cải thiện đáng kể phản hồi so với mô hình cơ sở trên mọi tiêu chí. Và không có sự khác biệt đáng kể về mặt thống kê giữa việc làm nền tảng cho tác nhân bằng các dự đoán của SensorFM so với các phép đo thực tế — nghĩa là các suy luận của mô hình phục vụ tác nhân tốt gần như tương đương với các nhãn thực tế.

Kết luận

SensorFM chỉ ra một sự thay đổi trong nghiên cứu sức khỏe thiết bị đeo: rời xa nhiều mô hình tùy chỉnh cho từng kết quả đơn lẻ và hướng tới một biểu diễn tổng quát duy nhất về sinh lý con người, có thể thích nghi linh hoạt, hiệu quả và ở quy mô lớn. Bằng cách học từ hơn một nghìn tỷ phút dữ liệu cảm biến không gắn nhãn, nó khái quát hóa trên các lĩnh vực sức khỏe tim mạch, trao đổi chất, giấc ngủ và sức khỏe tâm thần; hỗ trợ việc thích nghi hiệu quả với nhãn và ước tính các chỉ số hàng ngày một cách mạnh mẽ; có thể được chuyên biệt hóa tự động bởi một lớp học tác nhân; và có thể làm nền tảng cho Tác nhân Sức khỏe Cá nhân dựa trên chính các tín hiệu của một người.

Lời cảm ơn

Chúng tôi xin cảm ơn các đồng tác giả và cộng tác viên từ Google Research, Google DeepMind và giới học thuật vì những đóng góp của họ cho công trình này.