Cựu lãnh đạo Google cảnh báo AI có thể gây hại cho trẻ em hơn cả mạng xã hội

Theo Reuters, vào ngày 23 tháng 9 theo giờ Bắc Kinh, Tom Siegel, người sáng lập nhóm Tin cậy và An toàn (Trust and Safety) của Google, đã lên tiếng kêu gọi làm chậm tốc độ phát triển AI trong tuần này. Ông cảnh báo rằng ngành công nghệ đang đi vào vết xe đổ của kỷ nguyên mạng xã hội, có khả năng gây ra những tổn hại lớn hơn cho trẻ em.

Hiện nay, các công ty mạng xã hội đang phải chi trả những khoản bồi thường khổng lồ và đối mặt với hàng ngàn vụ kiện vì bị cáo buộc gây hại cho người dùng trẻ tuổi. Đồng thời, chính phủ các nước trên thế giới cũng đang nỗ lực hạn chế quyền truy cập của trẻ vị thành niên vào các nền tảng mạng xã hội.

Năm ngoái, Reuters từng đưa tin độc quyền về một tài liệu chính sách nội bộ của Meta. Tài liệu này cho biết chatbot của hãng có thể "tham gia vào các cuộc trò chuyện lãng mạn hoặc khiêu dâm với trẻ em", từ đó làm dấy lên các cuộc điều tra của Quốc hội. Dẫu vậy, các biện pháp quản lý vẫn chưa thể bắt kịp tốc độ phát triển chóng mặt của AI.

Siegel, cựu Phó chủ tịch phụ trách Tin cậy và An toàn tại Google, chia sẻ với Reuters: "Xét về những tác động mà AI đang gây ra cho trẻ em, tình hình hiện tại của chúng ta đang rất tồi tệ. Ý tưởng cho rằng ngành công nghiệp có thể tự giải quyết vấn đề mà không cần sự trợ giúp từ bên ngoài là không thực tế."

Những lo ngại của ông phản ánh nỗi sợ hãi ngày càng tăng của một số nhân vật trong ngành công nghệ và các nhà nghiên cứu học thuật: AI gây ra mối đe dọa sâu sắc hơn so với mạng xã hội. Trong khi đó, toàn ngành đang chạy đua để bổ sung các tính năng ngày càng tiên tiến cho chatbot, trong khi hàng triệu người trẻ tuổi đã và đang sử dụng chúng hàng ngày.

Vào thứ Ba, Siegel thông báo ông đã gia nhập Common Sense Media, một tổ chức vận động an toàn mạng cho trẻ em. Tổ chức phi lợi nhuận được thành lập từ năm 2003 này chuyên thực hiện nghiên cứu và đánh giá mức độ phù hợp của các loại hình truyền thông đối với trẻ em. Tháng 5 năm nay, tổ chức đã thành lập Viện An toàn AI cho Thanh thiếu niên (Teen AI Safety Institute), một cơ quan nghiên cứu nhằm đánh giá việc sử dụng AI của trẻ em, và Siegel sẽ đảm nhiệm vị trí giám đốc điều hành đầu tiên của viện. Anthropic và OpenAI Foundation (tổ chức phi lợi nhuận kiểm soát OpenAI) đều là những đơn vị hỗ trợ cho viện này.

Siegel cho biết ông dự định xây dựng các tiêu chuẩn liên quan để buộc các công ty AI phải chịu trách nhiệm, đồng thời hy vọng sẽ hợp tác với các công ty này và các tổ chức bên thứ ba để hiện thực hóa mục tiêu đó.

Trước đây, ông từng làm việc tại Google từ năm 2004 đến 2019, nhưng sau đó đã rời đi vì cho rằng khả năng của ngành công nghệ trong việc tạo ra không gian mạng an toàn cho người tiêu dùng đã "bị bế tắc". Sau đó, ông đồng sáng lập TrustLab, một công ty khởi nghiệp phát triển các công cụ giúp doanh nghiệp phát hiện các mối đe dọa an ninh. Đầu tháng này, ông đã từ nhiệm vị trí CEO để chuyển sang vai trò mới.

Siegel cho biết, hiện nay các công ty AI lớn đang tung ra nhiều tính năng cho trẻ em mà không thiết lập các biện pháp bảo vệ an toàn đầy đủ.

"Tôi cho rằng chúng ta đang đối mặt với nguy cơ gây hại rất, rất nghiêm trọng," ông nói. Siegel cho biết các công ty AI có thể thực hiện ngay một số biện pháp để bảo vệ người trẻ tốt hơn, đồng thời liệt kê hàng loạt rủi ro từ tự tử, rối loạn tâm thần cho đến "giảm tải nhận thức" (cognitive offloading). Cái gọi là giảm tải nhận thức chính là việc suy giảm khả năng tư duy phản biện do phụ thuộc vào AI để trả lời các câu hỏi.

Ông cho rằng Anthropic và OpenAI có thể triển khai các biện pháp xác minh độ tuổi nghiêm ngặt hơn để ngăn trẻ vị thành niên sử dụng chatbot của họ. Ông cũng cho biết, Google - công ty cũ của ông - hoàn toàn có thể thêm tùy chọn tắt AI Overviews và chế độ AI trong công cụ tìm kiếm, giống như cách họ đã cung cấp công tắc để người dùng lọc nội dung khiêu dâm.

Siegel nói thêm rằng, mặc dù những biện pháp này có thể ảnh hưởng đến lưu lượng sử dụng hoặc lợi nhuận trong ngắn hạn, nhưng các công ty AI không hành động sẽ phải đối mặt với rủi ro kiện tụng và quản lý, điều này có thể gây ra đòn giáng nặng nề hơn cho hoạt động kinh doanh của họ.

Phản hồi về những phát biểu trên của Siegel, người phát ngôn của Google cho biết phụ huynh có thể sử dụng các tính năng kiểm soát liên quan để tắt hoàn toàn quyền sử dụng công cụ tìm kiếm của trẻ. Người phát ngôn này nói: "Tính năng tìm kiếm AI của chúng tôi là một cách rất hữu ích cho trẻ em và thanh thiếu niên, giúp các em học tập, khám phá và hiểu biết về thông tin cũng như thế giới xung quanh."

Người phát ngôn của OpenAI cho biết, ngoài việc người dùng tự khai báo độ tuổi, công ty còn sử dụng "các tín hiệu tài khoản và hành vi" để nhận diện người dùng vị thành niên. "Mặc dù không có phương pháp xác minh độ tuổi nào là hoàn hảo, nhưng chúng tôi sẽ tiếp tục thử nghiệm và cải thiện các hệ thống này, bao gồm cả việc ngăn chặn các nỗ lực vượt qua rào cản an toàn," người phát ngôn này cho biết.