OpenAI ra mắt ChatGPT cho thanh thiếu niên, chuyên gia lo ngại về tính minh bạch bảo mật

Theo tin từ IT ngày 23 tháng 8, OpenAI tuần này đã ra mắt phiên bản ChatGPT dành cho thanh thiếu niên, hướng tới đối tượng người dùng trẻ tuổi và hạn chế một số tính năng thông qua cơ chế nhận diện độ tuổi.

Về vấn đề này, trang tin Engadget đã phỏng vấn nhiều chuyên gia an toàn trẻ em, và họ có những đánh giá không đồng nhất về phiên bản ChatGPT dành cho thanh thiếu niên. Tuy nhiên, tất cả đều cho rằng trước khi khuyến nghị hệ thống này cho phụ huynh và người trẻ, nó cần phải trải qua nhiều cuộc kiểm tra độc lập, đồng thời OpenAI phải minh bạch hơn về cách thức vận hành của các cơ chế an toàn.

Robbie Torney, Trưởng bộ phận đánh giá AI và kỹ thuật số tại Common Sense Media – công ty chuyên tư vấn về các sản phẩm giải trí và công nghệ cho gia đình – cho rằng: "OpenAI đã đưa ra một số cam kết rất quan trọng, nhưng họ phải đưa ra bằng chứng để chứng minh rằng những cam kết và tính năng an toàn đó thực sự hiệu quả."

Josh Golin, Giám đốc điều hành của tổ chức sáng kiến an toàn mạng trẻ em Fairplay, có thái độ gay gắt hơn: "Trên lý thuyết, một số biện pháp mà OpenAI công bố thực sự là bước đi đúng hướng, nhưng khi đào sâu hơn, vẫn còn rất nhiều điều đáng lo ngại, trong đó có việc thiếu cơ chế giải trình. Mạng xã hội đã chứng minh rằng, trong vấn đề bảo vệ trẻ em, chỉ tin tưởng vào các doanh nghiệp là không hiệu quả, và OpenAI cũng từng gặp phải vấn đề tương tự. Trước đó, OpenAI vốn đã có các hạn chế về nội dung liên quan đến tự tử, bạo lực và ma túy, nhưng những hạn chế này hoặc là không có tác dụng, hoặc dần mất hiệu lực theo thời gian."

Cả hai chuyên gia đều nghi ngờ khả năng hệ thống nhận diện độ tuổi tự động của OpenAI có thể xác định ổn định thanh thiếu niên và chuyển đổi sang phiên bản ChatGPT dành cho thanh thiếu niên hay không. Torney chỉ ra rằng: "OpenAI không công bố dữ liệu hiệu quả của hệ thống này, tỷ lệ báo động giả và bỏ sót vẫn là ẩn số, hệ thống tự động khó có thể nhận diện được tất cả thanh thiếu niên trên ChatGPT. Nhớ lại việc OpenAI từng có kế hoạch ra mắt tính năng nội dung người lớn, một trong những lý do khiến nó không được triển khai cuối cùng chính là công nghệ ước tính độ tuổi không thể nhận diện chính xác đủ số lượng thanh thiếu niên."

Torney cũng cho rằng, thanh thiếu niên gần như chắc chắn sẽ tìm cách vượt qua cơ chế nhận diện độ tuổi bằng những phương thức lách luật bất ngờ hơn.

Cam kết cụ thể nhất mà OpenAI đưa ra lại chính là điều mà các chuyên gia nghi ngờ nhất về khả năng thực thi. Lauren Jonas, Trưởng bộ phận phụ trách các vấn đề gia đình và thanh thiếu niên của OpenAI, từng phản hồi rằng: "Tất cả nội dung bị gắn cờ sẽ được nhân viên toàn thời gian của OpenAI kiểm duyệt trước khi thông báo cho phụ huynh. Mục tiêu của chúng tôi là thông báo cho phụ huynh trong vòng một giờ sau khi người dùng gửi yêu cầu."

Bà cũng khẳng định rõ ràng rằng OpenAI thực sự có đủ nhân lực và năng lực xử lý để đảm bảo tất cả nội dung bị gắn cờ đều được kiểm duyệt thủ công và thông báo cho phụ huynh trong vòng một giờ.

Torney đặt câu hỏi về điều này: "Quy trình này vẫn dựa vào việc ra quyết định tự động, vậy câu hỏi đặt ra là: bộ phân loại tự động chịu trách nhiệm sàng lọc nội dung rồi chuyển cho nhân viên kiểm duyệt có thực sự đáng tin cậy hay không?"

Golin cũng bày tỏ: "Tôi muốn thấy một số dữ liệu cứng, chẳng hạn như mỗi ngày có bao nhiêu cuộc hội thoại bị gắn cờ và kiểm duyệt, có bao nhiêu người chịu trách nhiệm kiểm duyệt, và thời gian trung bình cho mỗi lần kiểm duyệt là bao lâu. Thật khó để tin rằng OpenAI đã tuyển đủ người và có thể kiểm tra nghiêm túc từng đoạn hội thoại có khả năng gây nguy hiểm."

Ba chuyên gia cũng đồng thuận rằng cơ chế yêu cầu phụ huynh và con cái phải chủ động liên kết tài khoản ChatGPT làm giảm hiệu quả thực tế của tính năng này. Golin chỉ ra: "Đại đa số phụ huynh sẽ không sử dụng các công cụ giám sát, một trong những lý do là các công cụ này thường được thiết kế rất khó tìm và khó thao tác."

Ông cho rằng, cách hiệu quả hơn là bật mặc định và tích hợp cơ chế bảo vệ ngay từ giai đoạn thiết kế sản phẩm: "Ngay từ đầu hãy áp dụng các thiết lập bảo vệ nghiêm ngặt nhất, ví dụ như mặc định giới hạn thời gian sử dụng, sau đó để phụ huynh quyết định có thay đổi hay không, thay vì đẩy trách nhiệm cho phụ huynh và yêu cầu họ tự thiết lập các hạn chế."