Microsoft cam kết không dùng dữ liệu học sinh để huấn luyện AI trong trường học

Lauren Feiner

là phóng viên chính sách cấp cao tại The Verge, chuyên đưa tin về sự giao thoa giữa Thung lũng Silicon và Đồi Capitol. Cô đã dành 5 năm đưa tin về chính sách công nghệ tại CNBC, viết về các vấn đề chống độc quyền, quyền riêng tư và cải cách kiểm duyệt nội dung.

Microsoft đã đồng ý với một bộ nguyên tắc về an toàn và quyền riêng tư cho AI trong trường học, chỉ một tuần sau khi hai hệ thống trường học lớn thông báo lệnh cấm đối với các công cụ AI dành cho học sinh.

Trong một thỏa thuận mới với Liên đoàn Giáo viên Hoa Kỳ (AFT), công đoàn giáo viên lớn thứ hai tại Mỹ, và chi nhánh tại Thành phố New York của họ là Liên đoàn Giáo viên Thống nhất (UFT), Microsoft đã cam kết tuân thủ mười nguyên tắc có thể được thực thi theo hợp đồng bởi các khu học chánh áp dụng chúng. Các điều khoản bao gồm cam kết không huấn luyện các mô hình AI bằng dữ liệu của học sinh hoặc nhà giáo dục, hạn chế lượng dữ liệu mà Microsoft thu thập ngay từ đầu, giải thích cách thức hoạt động của các công cụ bằng ngôn ngữ đơn giản cho các gia đình, cấm các trợ lý ảo AI (AI companions) và yêu cầu sự đánh giá của con người đối với các quyết định "có rủi ro cao".

Thỏa thuận này được đưa ra sau khi Thành phố New York và Los Angeles đều thực hiện lệnh cấm kéo dài một năm đối với các công cụ AI dành cho nhiều học sinh, nhằm tạo thời gian cho các khu học chánh cân nhắc về cách sử dụng và các rào cản bảo vệ phù hợp. Khi các bậc phụ huynh và một số nhà giáo dục phản đối việc sử dụng AI cũng như các thiết bị màn hình nói chung trong trường học, Microsoft có lẽ nhận thấy rằng những quyết định tương tự có thể sẽ sớm xuất hiện. Bắt đầu từ tháng 11, các khu học chánh có thể chọn thêm các điều khoản này vào các thỏa thuận mới hoặc hiện có mà không cần phải đàm phán lại toàn bộ hợp đồng.

“[K]hông ai khác, kể cả chính phủ liên bang, đã đứng ra thực hiện công việc thực sự này”

Về phần mình, AFT vốn có quan điểm chỉ trích công nghệ trong trường học, nhưng cũng cởi mở trong việc hợp tác với các công ty công nghệ để chuẩn bị cho làn sóng AI hiện nay. Trong một bài phát biểu vào tháng 5, Chủ tịch AFT Randi Weingarten đã kêu gọi cấm sử dụng màn hình trước lớp 3 cũng như cấm “AI dành cho học sinh” trước bậc trung học cơ sở. Tuy nhiên, tổ chức này cũng đã công bố một trung tâm đào tạo AI trị giá 23 triệu đô la dành cho các nhà giáo dục, được tài trợ bởi Anthropic, Microsoft và OpenAI.

Trong một tuyên bố về thỏa thuận quyền riêng tư mới với Microsoft, Weingarten cho biết các điều khoản này là “không thể phá vỡ” và cần thiết “vì không ai khác, kể cả chính phủ liên bang, đã đứng ra thực hiện công việc thực sự này.” Bà nói thêm: “Chúng ta có thể ngày càng tức giận hơn, hoặc chúng ta có thể hành động một cách quyết đoán; bất cứ điều gì ít hơn các điều khoản có tính ràng buộc pháp lý thì cũng chỉ là một danh sách mong muốn mà thôi.”

Theo dõi các chủ đề và tác giả từ bài viết này để xem thêm các nội dung tương tự trên trang chủ cá nhân của bạn và nhận thông tin cập nhật qua email.