Báo cáo kỹ thuật về lệnh cấm mạng xã hội tại Úc bị tố sai sót do lạm dụng ChatGPT

Theo tin từ IT ngày 17 tháng 8, tờ *The Guardian* đưa tin tác giả của một báo cáo chịu trách nhiệm thử nghiệm công nghệ đằng sau lệnh cấm mạng xã hội tại Úc đã thừa nhận có sử dụng ChatGPT trong quá trình biên tập, nhưng phủ nhận việc nhiều trích dẫn sai sót trong báo cáo là do "ảo giác" (hallucination) của trí tuệ nhân tạo gây ra.

Cuộc thử nghiệm công nghệ xác minh độ tuổi trị giá 3,48 triệu AUD (theo chú thích của IT: tỷ giá hiện tại tương đương khoảng 16,629 triệu Nhân dân tệ) này được thực hiện vào năm ngoái bởi Age Check Certification Scheme (ACCS) có trụ sở tại Anh. Mục tiêu chính là thử nghiệm các công nghệ khác nhau có thể được các nền tảng mạng xã hội sử dụng để thực thi lệnh cấm người dùng dưới 16 tuổi tại Úc.

Bộ trưởng Truyền thông Úc Anika Wells từng đánh giá cao báo cáo này, cho rằng nó đã đưa ra "nhiều lựa chọn khả thi" và mở đường cho lệnh cấm mạng xã hội chính thức có hiệu lực vào tháng 12 năm ngoái.

Phần lớn nội dung báo cáo đến từ các thử nghiệm thực tế của tác giả đối với nhiều công nghệ xác minh độ tuổi hiện có, nhưng có một chương dành riêng để thảo luận về "công nghệ mới nổi" và trích dẫn nhiều bài báo học thuật nhằm giới thiệu các phương pháp mới có thể được sử dụng để xác minh độ tuổi trong tương lai.

Thượng viện Úc hiện đang tiến hành một cuộc điều tra nhằm tăng cường hơn nữa các luật liên quan đến lệnh cấm mạng xã hội. Trong quá trình điều tra, có tài liệu được đệ trình chỉ ra rằng báo cáo này tồn tại ít nhất hai lỗi trích dẫn. Tài liệu cho rằng những "trích dẫn này dường như được tạo ra bởi ảo giác AI, thay vì dựa trên các nguồn thực tế".

Khi *The Guardian* phiên bản Úc đặt câu hỏi về vấn đề này trong tháng này, người phát ngôn của ACCS ban đầu phủ nhận việc báo cáo có sử dụng trí tuệ nhân tạo, nhưng sau đó thừa nhận rằng nhóm đã sử dụng AI để viết lại một số đoạn văn nhằm giúp diễn đạt súc tích hơn.

Người phát ngôn này cho biết: "Chúng tôi không sử dụng AI để tạo ra báo cáo hoặc các tài liệu được trích dẫn trong đó... Mỗi tài liệu đều đã được kiểm tra, xác nhận các liên kết và báo cáo là có thật, đồng thời liên quan đến vấn đề cụ thể được trích dẫn."

Tuy nhiên, sau khi *The Guardian* phiên bản Úc tự phân tích báo cáo này, họ phát hiện ra rằng chỉ riêng trong cùng một chương đã có 6 tài liệu tham khảo bị sai sót.

Những sai sót này bao gồm: một số mã định danh đối tượng kỹ thuật số (DOI, tức một chuỗi chữ cái và số duy nhất tương ứng với một bài báo học thuật cụ thể) liên kết đến các bài báo hoàn toàn không tồn tại; một số DOI dẫn đến các bài báo sai lệch; sự kết hợp giữa tên tác giả, tên tạp chí và năm xuất bản không khớp với bất kỳ tài liệu nào đã biết; và một số liên kết DOI dẫn đến các bài báo mà nội dung không đưa ra kết luận như báo cáo đã khẳng định.

Sau đó, người phát ngôn này đã giải thích thêm về các nghiên cứu mà ACCS dựa vào và cung cấp các tài liệu tham khảo mới, nhưng phản hồi lần này vẫn tồn tại sai sót.

Trong danh sách các bài báo học thuật mà ACCS cung cấp để đính chính các trích dẫn ban đầu, năm xuất bản, tên tác giả và tên tạp chí của một số bài báo không khớp với các trích dẫn được liệt kê trong báo cáo gốc.

Một trong những bài báo được ACCS trích dẫn được cho là đã truy cập vào tháng 3 năm 2025. Tuy nhiên, một tác giả chính của nghiên cứu đó đã xác nhận với *The Guardian* rằng bài báo này chỉ được công khai sau khi xuất bản chính thức vào tháng 6 năm 2025. Ông cũng xác nhận rằng "Jamil" – người mà ACCS liệt kê là tác giả chính ban đầu – chưa bao giờ tham gia vào bài báo này, và báo cáo của ACCS cũng tóm tắt sai nội dung của bài báo.

Đối với một tài liệu tham khảo khác không thể tìm thấy trong tạp chí được trích dẫn là "Weber et al. 2011", người phát ngôn giải thích thêm rằng tài liệu này từng được một nghiên cứu của Đại học Monash trích dẫn và đã cung cấp nghiên cứu đó cho *The Guardian*. Tuy nhiên, trong bài báo của Đại học Monash do ACCS cung cấp, không hề có bất kỳ tài liệu tham khảo nào mang tên Weber.

Mãi cho đến khi *The Guardian* phát hiện ra 4 liên kết trong phần E và phần K của báo cáo chứa siêu dữ liệu (metadata) cho thấy nguồn gốc của các liên kết này là từ ChatGPT, người phát ngôn mới thừa nhận báo cáo thực sự có sử dụng AI.

Người phát ngôn này khẳng định rằng vì siêu dữ liệu của ChatGPT được giữ lại trong các liên kết, nên tổ chức thực tế đã công khai việc sử dụng AI, và bản thân các liên kết đó là chính xác, vì vậy họ không coi đây là một vấn đề.

Ông cho biết AI chỉ được sử dụng để làm cho các đoạn văn súc tích hơn, không được sử dụng để thực hiện nghiên cứu gốc, cũng không được sử dụng để tạo ra báo cáo.

"Tất cả các liên kết đều đã được kiểm tra và xác minh, nếu có sai sót vô ý trong đó, tôi xin lỗi, nhưng toàn bộ quá trình đều được thực hiện bởi con người."

Chính phủ liên bang Úc trước đây từng có thái độ tiêu cực đối với việc các nhà thầu sử dụng AI khi viết báo cáo cho chính phủ. Năm ngoái, Deloitte đã phải hoàn trả một phần trong hợp đồng trị giá 440.000 AUD (tỷ giá hiện tại tương đương khoảng 2,103 triệu Nhân dân tệ) do báo cáo có sai sót, và công ty tư vấn này cũng thừa nhận đã sử dụng AI.

Các câu hỏi mà *The Guardian* gửi đến văn phòng của bà Wells sau đó đã được chuyển đến bộ phận liên quan. Một người phát ngôn của bộ phận này cho biết vào thứ Sáu tuần trước: "Bộ đang xem xét các vấn đề dưới đây và sẽ liên lạc với ACCS khi thích hợp."

Tại phiên điều trần của Thượng viện diễn ra vào thứ Sáu tuần trước theo giờ địa phương, các quan chức bộ phận liên quan cho biết họ đã gặp ACCS. ACCS tuyên bố rằng các lỗi trong báo cáo là do một số liên kết vốn có thể truy cập bình thường sau đó đã bị hỏng. Tuy nhiên, các quan chức liên quan không xác minh độc lập tuyên bố này và cho biết việc quay lại kiểm tra các liên kết đó là "rất khó khăn".

Các quan chức cho biết, trong một báo cáo dài 1000 trang, nội dung liên quan đến trích dẫn chỉ chiếm 26 trang, trong đó chỉ xuất hiện "một vài sai sót".

Trợ lý thư ký thứ nhất của bộ phận, bà Sarah Vandenbroek, cho biết: "ACCS đảm bảo với chúng tôi rằng tại thời điểm phát hành tài liệu, tất cả các liên kết đều đã được kiểm tra và có thể truy cập bình thường. Do đó, có thể đã có những thay đổi xảy ra ở giữa. Họ cũng đảm bảo với chúng tôi rằng ngay cả khi một số liên kết đã hỏng, các tài liệu gốc liên quan vẫn tồn tại và các trích dẫn này vẫn có giá trị."

Giáo sư Christian Downie thuộc Trường Quản trị và Quản trị Toàn cầu tại Đại học Quốc gia Úc trước đây từng nghiên cứu về các tài liệu đệ trình lên chính phủ có chứa nội dung ảo giác AI. Ông cho biết, nếu các báo cáo hoặc tài liệu đệ trình lên chính phủ bị phát hiện có trích dẫn giả mạo, bất kể những sai sót đó có do AI gây ra hay không, đều có thể dẫn đến việc chính phủ đưa ra quyết định sai lầm và "làm suy yếu niềm tin của công chúng vào các cơ quan chính phủ".

Ông nói: "Mọi người nên cho rằng chính phủ đã cân nhắc vấn đề này. Trong tương lai, có thể cần thông qua các điều khoản hợp đồng và các biện pháp trừng phạt tương ứng để ngăn chặn hành vi này xảy ra."

Thượng nghị sĩ độc lập Fatima Payman cho biết: "Cơn bão dư luận do báo cáo đầy rác thải AI của Deloitte năm ngoái gây ra lẽ ra phải chấm dứt hoàn toàn việc các nhà thầu chính phủ tùy tiện trích dẫn tài liệu trong báo cáo." Bà nói: "Chính phủ phải yêu cầu nhà thầu chịu trách nhiệm về báo cáo này xin lỗi và hoàn tiền."