Sony đăng ký bằng sáng chế AI giả lập trẻ em để bẫy kẻ xấu trên PlayStation

Theo tin từ IT ngày 16 tháng 8, trang tin mp1st cho biết Sony SIE gần đây đã nộp một đơn đăng ký bằng sáng chế mới với mã số 18/314775. Bằng sáng chế này có thể được xem là cách Sony tạo ra một loạt tài khoản AI có khả năng mô phỏng hành vi trò chuyện của trẻ vị thành niên; nếu các tài khoản khác cố gắng tương tác độc hại với chúng, Sony sẽ gắn nhãn ẩn cho những tài khoản đó.

IT được biết, tóm tắt bằng sáng chế cho thấy các tài khoản AI này được điều khiển hoàn toàn bởi mô hình ngôn ngữ lớn (LLM), nhằm mục đích "giúp người chơi tránh xa những kẻ lừa đảo, người gửi thư rác, những kẻ có ý đồ xâm hại trẻ em và những người dùng có hành vi độc hại khác thông qua việc chủ động nhận diện người dùng khả nghi". Sony đặc biệt đặt các tài khoản này vào "những tình huống mà người dùng có ý đồ xấu có thể tìm kiếm mục tiêu". Khi người dùng khả nghi thiết lập liên lạc với tài khoản AI này, hệ thống có thể dựa trên tương tác giữa hai bên để đánh giá xem người đó có gây rủi ro hay không.

Nếu người dùng thể hiện hành vi khả nghi, hệ thống có thể đánh dấu họ là tài khoản tiềm ẩn nguy hiểm và tiếp tục theo dõi hành vi của họ. Khi người dùng đó sau đó chủ động liên hệ với người chơi thật, hệ thống có thể đưa ra cảnh báo trước hoặc thực hiện các biện pháp bảo vệ.

Cần lưu ý rằng hệ thống không trực tiếp xử phạt chỉ vì người chơi trò chuyện với tài khoản AI, mà coi tương tác này là một tín hiệu để đánh giá xem tài khoản đó có rủi ro hay không. Nếu người dùng thể hiện hành vi khả nghi rõ rệt trong quá trình giao tiếp với tài khoản AI, hệ thống có thể gắn nhãn rủi ro cho tài khoản đó ở chế độ nền. Nếu người dùng thực hiện hành vi khả nghi nhiều lần, họ sẽ bị cấm tài khoản.

Tất nhiên, giống như mọi bằng sáng chế khác, việc công nghệ này có thực sự được áp dụng vào nền tảng PlayStation hay không vẫn còn là một ẩn số. Các công ty công nghệ thường xuyên nộp rất nhiều bằng sáng chế, trong đó không ít cái cuối cùng không bao giờ trở thành sản phẩm thực tế. Do đó, bằng sáng chế này hiện chỉ cho thấy Sony đang khám phá khả năng sử dụng AI để bảo vệ người chơi và chủ động nhận diện người dùng độc hại, chứ không đảm bảo rằng tính năng liên quan chắc chắn sẽ xuất hiện trong các dịch vụ PlayStation tương lai.