ChatGPT phân biệt đối xử: Người dùng miễn phí nhận tư vấn sức khỏe kém chất lượng hơn

OpenAI đang triển khai tính năng "Health in ChatGPT" cho người dùng tại Hoa Kỳ từ 18 tuổi trở lên sau khi công bố và thử nghiệm tính năng này từ tháng 1. Việc trả phí đăng ký gói dịch vụ thực sự có thể cứu mạng bạn.

Người dùng có thể kết nối Apple Health, hồ sơ y tế và các ứng dụng chăm sóc sức khỏe để xem lại kết quả xét nghiệm, chuẩn bị cho các cuộc hẹn với bác sĩ, cũng như phân tích dữ liệu về giấc ngủ hoặc hoạt động thể chất. OpenAI cho biết họ sẽ không sử dụng dữ liệu sức khỏe được kết nối để huấn luyện mô hình hoặc phục vụ quảng cáo.

Người dùng miễn phí nhận được lời khuyên sức khỏe kém chất lượng hơn

Người dùng phiên bản ChatGPT miễn phí sẽ nhận được lời khuyên sức khỏe có chất lượng thấp hơn. OpenAI vận hành tính năng này bằng GPT-5.5 Instant, một mô hình có điểm số trên các tiêu chuẩn đánh giá sức khỏe thấp hơn so với mô hình chủ lực mới là GPT-5.6 Sol, vốn chỉ dành riêng cho người dùng trả phí. OpenAI có khả năng sẽ bảo vệ hệ thống phân cấp này dựa trên các lập luận đạo đức, bằng cách chỉ ra rằng cả hai mô hình đều vượt qua câu trả lời của các bác sĩ trong bài kiểm tra HealthBench Professional.

Ngay cả khi kết quả đánh giá có vẻ mang tính quyết định, chúng vẫn đến từ các môi trường thử nghiệm nhân tạo được thiết kế để đo lường kiến thức, trong khi các bác sĩ có thể đạt điểm thấp hơn vì nhiều lý do. Họ có thể đang chịu áp lực về thời gian, đối mặt với sự mệt mỏi hoặc thực hiện bài kiểm tra mà không có các công cụ hỗ trợ như hồ sơ bệnh nhân hay ý kiến từ đồng nghiệp.

Các bài kiểm tra đánh giá cũng không thể nắm bắt được phần lớn những gì diễn ra trong một buổi khám bệnh thực tế, nơi các bác sĩ có thể thăm khám trực tiếp, nhận biết các tín hiệu phi ngôn ngữ và vận dụng kinh nghiệm nhiều năm để đánh giá tổng thể tình trạng của bệnh nhân. Bản thân OpenAI cũng liên tục khẳng định trong thông báo rằng ChatGPT vẫn có thể mắc sai lầm và không thể thay thế lời khuyên y tế. Công ty cho biết hơn 260 bác sĩ đã tham gia hỗ trợ phát triển các tính năng Health.

Các thử nghiệm ban đầu của OpenAI cũng cho thấy hơn 70% người tham gia đã đặt câu hỏi về sức khỏe bên ngoài phần Health chuyên biệt vì việc chuyển đổi sang đó quá rườm rà. Kể từ đó, công ty đã cho phép sử dụng Health trong bất kỳ cuộc trò chuyện nào, đồng thời vẫn giữ lại phần Health riêng biệt để quản lý dữ liệu và truy cập các cuộc trò chuyện sức khỏe trước đây.

Có lẽ là một "Dr. Google" tốt hơn, nhưng không thể thay thế bác sĩ

OpenAI cho biết hiện có hơn 300 triệu người đặt câu hỏi về sức khỏe cho ChatGPT mỗi tuần, tăng từ 230 triệu người vào tháng 1. Công ty chưa cho biết liệu tính năng Health có khả dụng tại châu Âu hay không và khi nào thì điều đó xảy ra. Khi OpenAI công bố tính năng này vào tháng 1, họ đã loại trừ cụ thể Khu vực Kinh tế Châu Âu, Thụy Sĩ và Vương quốc Anh. Các quy định nghiêm ngặt hơn về quyền riêng tư dữ liệu của EU và khả năng tính năng này bị phân loại là rủi ro cao theo Đạo luật AI của EU có thể là những lý do chính.

Những rủi ro đó không chỉ là giả thuyết. Trong bài kiểm tra đánh giá chẩn đoán hình ảnh mới nhất, RadLE 2.0, không có mô hình AI nào trong số 16 mô hình được thử nghiệm đạt hiệu suất tốt như các bác sĩ chẩn đoán hình ảnh con người. Vấn đề chính là các chatbot đưa ra những kết luận không chính xác với sự tự tin cao thay vì thừa nhận khi đã đạt đến giới hạn của mình, trong khi các bác sĩ con người giỏi hơn nhiều trong việc thừa nhận sự không chắc chắn. Sự kết hợp giữa thái độ quá tự tin, khả năng thuyết phục và xu hướng "nịnh hót" — nơi chatbot xác nhận ý kiến của người dùng thay vì thách thức các giả định sai lầm — cũng đã góp phần gây ra những tổn hại nghiêm trọng về sức khỏe tâm thần.

Đồng thời, một số báo cáo cho thấy AI phát hiện ra các mô hình trong dữ liệu sức khỏe mà các chuyên gia y tế bỏ lỡ, đôi khi với những kết quả đáng kinh ngạc. MIRA, một hệ thống dành cho hồ sơ sức khỏe điện tử, và AMIE đều thực hiện tốt ngang ngửa với các bác sĩ chăm sóc sức khỏe ban đầu trong các buổi tư vấn mô phỏng. Một nhà nghiên cứu đã so sánh các tác nhân AI như thế này với chế độ lái tự động của máy bay: "Những hệ thống này có thể hỗ trợ và giảm tải cho các chuyên gia y tế bằng cách đảm nhận các công việc thường nhật, nhưng trách nhiệm cuối cùng sẽ luôn thuộc về các bác sĩ."

Tin tức AI không cường điệu – Được tuyển chọn bởi con người

Đăng ký THE DECODER để đọc không quảng cáo, nhận bản tin AI hàng tuần, báo cáo độc quyền về các công nghệ tiên phong "AI Radar" sáu lần một năm, quyền truy cập toàn bộ kho lưu trữ và quyền tham gia phần bình luận của chúng tôi.

Đăng ký ngay