Google ra mắt SensorFM: Mô hình nền tảng biến dữ liệu thiết bị đeo thành trí tuệ sức khỏe

Google Research vừa công bố SensorFM, một mô hình nền tảng (foundation model) học cách biểu diễn tổng quát về sinh lý và hành vi con người từ dữ liệu cảm biến đeo tay thu thập được từ năm triệu người. Mô hình này có thể được ứng dụng cho 35 tác vụ khác nhau về sức khỏe và hành vi.

Hầu hết các tính năng sức khỏe trên thiết bị đeo hiện nay đều được xây dựng cho một mục đích duy nhất. Một mô hình phát hiện giai đoạn giấc ngủ, một mô hình khác ước tính nguy cơ tim mạch, và một mô hình khác nữa phân tích các chỉ số căng thẳng hoặc trao đổi chất. Google muốn thay thế các phương pháp biệt lập này bằng một nền tảng AI chung có khả năng thấu hiểu dữ liệu cảm biến liên tục (thường bị ngắt quãng) trên nhiều vấn đề sức khỏe, giảm nhu cầu về dữ liệu huấn luyện được gán nhãn đắt đỏ, và cuối cùng là cung cấp bối cảnh cá nhân hóa cho các trợ lý sức khỏe AI.

Google Research hiện đã giới thiệu SensorFM trong một bài đăng trên blog và một bài báo khoa học đi kèm. Mô hình nền tảng này học cách biểu diễn tổng quát, có thể tái sử dụng về các kiểu hình sinh lý và hành vi từ khối lượng lớn dữ liệu thiết bị đeo chưa được gán nhãn. Các nhà nghiên cứu đã sử dụng hơn một nghìn tỷ phút dữ liệu cảm biến đa phương thức từ năm triệu người dùng Fitbit và Pixel Watch để tiền huấn luyện. Dữ liệu đến từ hơn 100 quốc gia và được thu thập bằng hơn 20 mẫu thiết bị Fitbit và Pixel Watch khác nhau. Theo các tác giả, đây là bộ dữ liệu thiết bị đeo lớn nhất và đa dạng nhất từng được sử dụng để huấn luyện một mô hình loại này.

Nhiều dữ liệu hơn và mô hình lớn hơn giúp SensorFM tốt hơn

SensorFM xử lý 34 đặc trưng được rút ra từ năm loại dữ liệu cảm biến: theo dõi nhịp tim quang học (photoplethysmography, hay PPG), gia tốc, độ dẫn điện của da, nhiệt độ da và độ cao khí áp. Các đặc trưng này bao gồm nhịp tim, biến thiên nhịp tim, độ bão hòa oxy trong máu, giai đoạn giấc ngủ, dữ liệu chuyển động, cùng nhiều chỉ số khác. Mô hình được huấn luyện theo phương pháp tự giám sát bằng cách tái tạo các phân đoạn dữ liệu bị che khuất một cách có chủ đích. Kỹ thuật này, được gọi là "Adaptive and Inherited Masking" (AIM), đánh dấu cả những giá trị bị thiếu thực sự và những giá trị bị ẩn đi một cách nhân tạo trong quá trình huấn luyện, nhờ đó SensorFM học được cách xử lý cả hai loại lỗ hổng dữ liệu này.

Các nhà nghiên cứu báo cáo rằng hiệu suất cải thiện một cách hệ thống khi kích thước mô hình và khối lượng dữ liệu cùng tăng lên. Bốn biến thể mô hình mà họ thử nghiệm có quy mô từ khoảng 100.000 đến 100 triệu tham số, và các bộ dữ liệu huấn luyện trải dài từ 5.000 đến năm triệu người. Trên bộ dữ liệu huấn luyện lớn nhất, sai số tái tạo của mô hình lớn nhất thấp hơn 31% so với mô hình nhỏ nhất. Cấu hình lớn nhất cũng đạt hiệu suất tốt nhất trên hầu hết các tác vụ dự đoán hạ nguồn.

SensorFM vượt qua các mô hình so sánh trên 34 trong số 35 tác vụ

Sau đó, các nhà nghiên cứu đã thử nghiệm SensorFM trên dữ liệu từ ba nghiên cứu riêng biệt với tổng cộng 13.985 người tham gia. Mô hình chưa từng thấy dữ liệu này trong quá trình tiền huấn luyện. Họ đánh giá SensorFM trên 35 tác vụ dự đoán bao gồm sức khỏe tim mạch và trao đổi chất, sức khỏe tâm thần, giấc ngủ, nhân khẩu học và lối sống.

Theo bài báo, ngay cả các mô hình đầu (head models) đơn giản dành riêng cho từng tác vụ được xây dựng trên các biểu diễn đã học của SensorFM cũng vượt trội hơn các mô hình cơ sở có giám sát với các đặc trưng thiết bị đeo được thiết kế thủ công trên 34 trong số 35 tác vụ. Việc tiền huấn luyện quy mô lớn cũng giúp SensorFM sử dụng nhãn hiệu quả hơn so với các mô hình cơ sở có giám sát. Mô hình có thể thích nghi với các tác vụ mới với tương đối ít ví dụ được gán nhãn, và khi quy mô lớn hơn, nó ít phụ thuộc vào thông tin nhân khẩu học bổ sung hơn. Các tác giả tin rằng tiền huấn luyện quy mô lớn có thể đặc biệt hữu ích cho các đặc điểm khó đo lường và thay đổi đáng kể giữa các cá nhân, chẳng hạn như các triệu chứng trầm cảm và lo âu.

Để thích nghi các biểu diễn đã học của SensorFM với các tác vụ mới, các nhà nghiên cứu đã thiết lập một "lớp học" gồm các tác nhân LLM cạnh tranh và hợp tác. Các tác nhân này liên tục tạo, kiểm tra và tinh chỉnh mã cho các mô hình dự đoán hạ nguồn, thực hiện hơn 30.000 thí nghiệm trong quá trình này. Các mô hình mà chúng tìm thấy đã vượt trội hơn các mô hình đầu tuyến tính đơn giản dựa trên cùng các biểu diễn SensorFM trên 28 trong số 35 tác vụ dự đoán.

SensorFM giúp câu trả lời của trợ lý sức khỏe tốt hơn

Các nhà nghiên cứu cũng tích hợp SensorFM vào một trợ lý sức khỏe cá nhân và so sánh ba biến thể. Cả ba đều nhận được thông tin nhân khẩu học và tóm tắt hàng ngày được tính toán từ dữ liệu thiết bị đeo, bao gồm các hoạt động như vận động, giấc ngủ, oxy trong máu và nhiệt độ da. Một biến thể cũng nhận được các dự đoán của SensorFM cho các chỉ số sức khỏe khác nhau, biến thể thứ hai nhận được các giá trị thực tế đã biết cho chính các chỉ số đó, và biến thể thứ ba không nhận được bất kỳ thông tin bổ sung nào và đóng vai trò là nhóm đối chứng.

Bốn bác sĩ lâm sàng đã đánh giá 93 bản tóm tắt sức khỏe cho 31 hồ sơ người tham gia thực tế, dành hơn 40 giờ và đưa ra 1.860 đánh giá cá nhân. Kết quả: các bản tóm tắt được tăng cường bằng dự đoán của SensorFM đạt điểm cao hơn đáng kể so với nhóm đối chứng trên cả năm khía cạnh mà nhóm nghiên cứu đo lường, đó là bối cảnh, cá nhân hóa, tính hợp lý, mức độ liên quan và tính an toàn. Không có sự khác biệt đáng kể về mặt thống kê giữa các bản tóm tắt sử dụng dự đoán của SensorFM và những bản sử dụng dữ liệu sức khỏe thực tế đã biết. Tuy nhiên, điều này không có nghĩa là SensorFM có thể thay thế các phép đo hoặc chẩn đoán lâm sàng.

SensorFM hiện vẫn là một mô hình nghiên cứu

Các nhà nghiên cứu chỉ ra một số hạn chế. SensorFM chỉ được huấn luyện và thử nghiệm trên dữ liệu từ các thiết bị Fitbit và Pixel Watch. Việc liệu kết quả có chuyển đổi sang các thiết bị đeo khác hay không vẫn là một câu hỏi mở. Mô hình cũng không hoạt động với các tín hiệu thô độ phân giải cao mà với dữ liệu được tổng hợp ở cấp độ phút, điều này có nghĩa là các kiểu hình rất ngắn hoặc chi tiết có thể bị mất.

Nhiều chỉ số sức khỏe mà nhóm nghiên cứu đã nghiên cứu dựa trên các báo cáo tự nguyện, hồ sơ thuốc hoặc bảng câu hỏi thay vì các kết quả được xác nhận lâm sàng. Nhóm nghiên cứu cũng không đại diện đầy đủ cho dân số chung. Và trợ lý sức khỏe chỉ được đánh giá trong một thiết lập tĩnh với các phản hồi đơn lẻ, không phải trong các cuộc hội thoại dài hơn với các câu hỏi tiếp nối.

SensorFM hiện tại hoàn toàn là một mô hình nghiên cứu. Google đã cung cấp Google Health Coach dựa trên Gemini, cung cấp các mẹo cá nhân hóa về thể dục, giấc ngủ, phục hồi và các chủ đề sức khỏe khác. SensorFM cuối cùng có thể đóng vai trò là nền tảng kỹ thuật cho các tính năng như thế này, nhưng Google chưa công bố bất kỳ kế hoạch cụ thể nào để tích hợp nó vào Fitbit, Pixel Watch hoặc huấn luyện viên AI.

Thông tin chi tiết hơn về SensorFM có sẵn trong bài đăng trên blog của Google Research và bài báo truy cập mở trên arXiv.

Tin tức AI không cường điệu – Được tuyển chọn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo độc quyền về công nghệ tiên phong "AI Radar" sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và quyền truy cập vào phần bình luận của chúng tôi.

Đăng ký ngay