Meta AI bổ sung tính năng cảnh báo phụ huynh khi thanh thiếu niên thảo luận về tự hại

Theo tin từ IT ngày 17 tháng 7, vào thứ Năm (ngày 16) theo giờ địa phương, Meta thông báo: một khi thanh thiếu niên trò chuyện với chatbot Meta AI về các chủ đề liên quan đến tự tử hoặc tự hại, hệ thống sẽ thông báo cho phụ huynh của các em.

Meta cũng đang phát triển tính năng hỗ trợ khẩn cấp, nếu cuộc trò chuyện cho thấy người dùng có khả năng sắp tự tử, Meta sẽ liên hệ với các cơ quan dịch vụ khẩn cấp.

Meta cho biết họ đã xây dựng một hệ thống AI chuyên dụng để nhận diện các cuộc trò chuyện mà thanh thiếu niên đề cập rõ ràng đến việc tự làm hại bản thân. "Chúng tôi hiểu rằng phụ huynh có thể cảm thấy rất bất an khi nhận được cảnh báo. Do đó, trong khi năng lực nhận diện tiếp tục được hoàn thiện, mỗi cuộc trò chuyện bị AI gắn cờ sẽ được con người xem xét trước khi quyết định có gửi cảnh báo hay không. Nếu không thể xác định rõ ý định thực sự của thanh thiếu niên, chúng tôi sẽ áp dụng cách tiếp cận thận trọng hơn là thông báo cho phụ huynh. Đôi khi phụ huynh có thể nhận được những cảnh báo mà cuối cùng chứng minh là không cần phải lo lắng, nhưng chúng tôi cho rằng ở giai đoạn này, cần bắt đầu từ các tiêu chuẩn thận trọng hơn và tiếp tục quan sát hiệu quả thực tế để đảm bảo mức độ phù hợp."

IT được biết từ các báo cáo rằng, các bậc phụ huynh tại Mỹ, Anh, Úc và Canada đang sử dụng tính năng giám sát của phụ huynh trên Instagram đã có thể nhận được cảnh báo, và tính năng này sẽ được triển khai trên toàn cầu trước cuối năm nay.

Trước đây, Instagram hỗ trợ thông báo cho phụ huynh khi thanh thiếu niên liên tục tìm kiếm các từ khóa về tự tử hoặc tự hại, còn tính năng mới ra mắt lần này đã mở rộng phạm vi cảnh báo hơn nữa. Phụ huynh cũng có thể xem lại những chủ đề mà thanh thiếu niên đã thảo luận với Meta AI trong tuần qua.

Meta đồng thời mở rộng thiết lập "hạn chế nội dung" (restricted content) sang Meta AI. Sau khi phụ huynh kích hoạt, thanh thiếu niên sẽ phải chịu các hạn chế nội dung nghiêm ngặt hơn trên cả Instagram và Meta AI. Vốn dĩ Meta AI đã không thảo luận với thanh thiếu niên về các chủ đề tình dục, hẹn hò hay rượu bia, các hạn chế mới bổ sung sẽ khiến chatbot từ chối nhiều loại câu hỏi hơn nữa.

Meta cũng cho biết, bất kể người sử dụng Meta AI là người lớn hay thanh thiếu niên, chỉ cần cuộc trò chuyện cho thấy có người có khả năng tự tử, Meta sẽ liên hệ với các cơ quan dịch vụ khẩn cấp. Trước khi Meta AI áp dụng các biện pháp này, Facebook và Instagram cũng đã có thể thực hiện các biện pháp tương tự khi phát hiện người dùng đăng tải nội dung cho thấy nguy cơ tự tử.

Thông báo quảng cáo: Các liên kết chuyển hướng bên ngoài trong bài viết (bao gồm nhưng không giới hạn ở siêu liên kết, mã QR, mật khẩu, v.v.) được sử dụng để truyền tải thêm thông tin và tiết kiệm thời gian lựa chọn, kết quả chỉ mang tính chất tham khảo, tất cả các bài viết của IT đều bao gồm thông báo này.